Учёные Оксфордского университета оценили возможности инструментов искусственного интеллекта (ИИ) автоматически обрабатывать информацию из электронных медицинских карт (ЭМК) пациентов. Это важный шаг для проведения крупномасштабных и конфиденциальных медицинских исследований.
В современной цифровой эпохе миллионы записей ЭМК представляют собой огромный ресурс для улучшения исследований, образования и качества медицинской помощи. Однако растущий интерес к использованию ЭМК для обучения моделей ИИ вызывает вопросы о том, насколько надёжны существующие методы защиты данных и способны ли они полностью обеспечить конфиденциальность пациентов.
Команда Оксфорда под руководством доктора Рейчел Куо провела исследование, чтобы выяснить, может ли программное обеспечение соответствовать приемлемым стандартам защиты данных.
Авторы исследования отмечают, что защита данных пациентов является ключевым элементом в укреплении общественного доверия к научным исследованиям в сфере здравоохранения. Они объясняют, что ручное удаление персонально идентифицируемой информации (такой как имена или адреса) требует много времени и средств, и что модели машинного обучения могут помочь уменьшить эту нагрузку.
Исследование, опубликованное в журнале iScience, было направлено на оценку способности больших языковых моделей (LLM) и специализированных программных инструментов распознавать и отделять идентификаторы пациентов (имена, даты, номера медкарт) от реальных записей, не искажая при этом клиническое содержание.
Сначала команда вручную отредактировала 3 650 медицинских записей, чтобы создать надёжный эталонный набор данных. Затем они сравнили его с двумя специализированными инструментами деидентификации (Microsoft Azure и AnonCAT) и пятью универсальными языковыми моделями (включая GPT-4, GPT-3.5, Llama-3, Phi-3 и Gemma).
По итогам исследования сервис деидентификации Microsoft Azure показал наилучшие результаты, практически полностью совпав с ручным редактированием. GPT-4 также продемонстрировал высокую точность, что доказывает: современные языковые модели способны точно извлекать идентификаторы при минимальной предварительной настройке.
Однако исследование выявило и риски. Доктор Салтан отметил, что хотя некоторые большие языковые модели работают впечатляюще, другие могут генерировать ложный или вводящий в заблуждение текст — или «галлюцинации», что создаёт риск в клиническом контексте и требует тщательной проверки перед использованием.
Учёные делают вывод, что автоматизация деидентификации может значительно сократить время и стоимость подготовки клинических данных для исследований, сохраняя при этом конфиденциальность пациентов.
