Рост популярности генеративного искусственного интеллекта для анализа медицинских данных вызывает серьёзную озабоченность у Итальянского управления по защите данных. Власти подчёркивают, что передача медицинских заключений алгоритмам несёт в себе значительные риски, включая утечку конфиденциальной информации и получение недостоверных диагнозов.
Одной из главных проблем является нарушение приватности пациентов. Загружая медицинские записи в онлайн-платформы, пользователи невольно подвергают себя опасности веб-скрапинга и кражи персональных данных, которые могут быть использованы мошенниками. Однако ещё более тревожным аспектом становится слепое доверие к автоматизированным диагнозам. Многие пользователи, стремясь сэкономить время, обращаются к ИИ за рекомендациями по лечению, игнорируя необходимость консультации с врачом. Это может привести к ошибочным выводам и даже угрожать жизни пациентов, особенно если они решают изменить или прекратить терапию на основе сгенерированных алгоритмом советов.
Хотя официальной статистики по таким случаям пока нет, регулятор отмечает, что получает многочисленные жалобы, вероятно, от медицинских специалистов. Популярные платформы, включая ChatGPT, позволяют загружать и анализировать медицинские документы за минуты, без какого-либо контроля со стороны врачей. В связи с этим Управление настоятельно рекомендует тщательно изучать политику конфиденциальности сервисов, чтобы убедиться, что персональные данные не сохраняются для тренировки алгоритмов.
Кроме того, важно помнить, что общедоступные системы ИИ не являются сертифицированными медицинскими инструментами. Их ответы могут содержать ошибки или так называемые «галлюцинации» — убедительные, но ложные выводы. Европейский регламент по искусственному интеллекту и итальянский Национальный совет здравоохранения подчёркивают необходимость человеческого контроля на всех этапах работы ИИ, от разработки до практического применения.