DeepSeek внедряют в китайских больницах «слишком быстро, слишком рано»

Команда китайских исследователей-врачей расспросила сотрудников больниц КНР о внедрении DeepSeek. Учёные пришли к выводу, что стремление начать применять его побыстрее ведёт к угрозам конфиденциальности пациентов и безопасности их здоровья.

На начало марта не менее 300 больниц в Китае начали использовать недорогие и довольно эффективные во многих вопросах открытые ИИ-модели DeepSeek для постановки диагнозов и назначения лечений.

Исследователи предупреждают, что боты на основе решенйи DeepSeek (как и прочие ИИ-боты), способны выдавать правдоподобные, но фактически неправильные ответы, что ведёт к «существенным клиническим рискам».

В докладе, опубликованном в медицинском журнале JAMA, напоминают, что стартап DeepSeek стал буквально национальным героем", представив высокопроизводительные и экономичные модели V3 и R1, сопоставимые с некоторыми продуктами OpenAI по производительности.

Исследователи считают, что медицинские специалисты могут начать чрезмерно полагаться на результаты, предлагаемые DeepSeek, что приведёт к ошибкам при постановке диагнозов или неправильному лечению. Кроме того, более ответственным врачам придётся перепроверять предлагаемые DeepSeek ответы, теряя время.

Хотя больницы часто используют не облачные, а собственные варианты продуктов DeepSeek на локальных мощностях, это не помогает защитить данные от утечек полностью, поскольку во многих больницах просто нет достаточно квалифицированного для этого IT-персонала.

Как сообщает гонконгское издание SCMP, это накладывается на проблему отсутствия достаточной инфраструктуры для первичной медицинской помощи в материковом Китае. Люди со сложными медицинскими проблемами получили беспрецедентный доступ к ИИ-помощнику, при этом без медицинского наблюдения.

Медицинское сообщество всё больше беспокоится о последствиях ускоренного применения ИИ в китайских медицинских учреждениях. Тем более, что в прошлом месяце учёные из Гонконгского университета опубликовали работу, согласно которой большинство ключевых ИИ-моделей уязвимы для кибератак, а DeepSeek-R1 — больше всего.

Страна ускоряет внедрение ИИ в здравоохранении на фоне общего бума технологий генеративного искусственного интеллекта. Разные платформы активно экспериментируют с ИИ в медицине. Например, стартап Tairex тестирует 42 ИИ-докторов в 21 отделениях, включая экстренную помощь, пульмонологию, педиатрию и кардиологию. Компания заявила, что планирует сделать платформу доступной для широкой публики в этом году.