Пенсильвания подала иск против Character.AI за имитацию лицензированных врачей чат-ботами

Пост опубликован в блогах iXBT.com, его автор не имеет отношения к редакции iXBT.com

Департамент штата Пенсильвания и Государственный медицинский совет подали иск против компании Character Technologies, Inc., разработчика платформы Character.AI. Иск касается случаев, когда чат-боты на платформе выдавали себя за лицензированных медицинских специалистов.

Следователи штата выявили несколько персонажей-чатов, представляющихся врачами. Один из них, «Эмили», назвался психиатром с действующей квалификацией. На запрос о симптомах депрессии бот использовал диагностические термины, предложил обследование и заявил, что может назначать лекарства в рамках своих полномочий. Бот сообщил об обучении в Имперском колледже Лондона, наличии британской медицинской лицензии и лицензии штата Пенсильвания с указанием номера, отсутствующего в официальных реестрах.

Автор: Крис Поттер Источник: commons.wikimedia.org

С персонажем «Эмили» зафиксировано более 45 000 взаимодействий. Власти утверждают, что платформа нарушила закон о медицинской практике, запрещающий такую деятельность без лицензии. В жалобе указано, что компания занималась несанкционированной медицинской практикой через свой ИИ, где боты заявляли о наличии лицензии на медицинскую и хирургическую практику в Пенсильвании.

Губернатор Джош Шапиро охарактеризовал иск как проверку подотчетности ИИ в здравоохранении. Офис губернатора заявил, что не допустит внедрения ИИ-инструментов, вводящих в заблуждение относительно консультаций от лицензированных специалистов. Иск не требует финансовых санкций, а просит суд вынести постановление о прекращении противоправных действий.

Представитель Character. AI отметил, что платформа предназначена для вымышленных персонажей, созданных пользователями, в целях развлечения и ролевых игр. Компания ввела предупреждения в каждом чате, указывающие, что персонажи не реальны, их слова — вымысел, и на них нельзя полагаться для профессиональных советов.

Этот случай связан с растущим вниманием к ИИ-чат-ботам. В Пенсильвании запущена система отчетности о подобных инцидентах. Власти предупреждают, что чат-боты могут генерировать неверную информацию и ни один из них не обладает действующей медицинской лицензией штата. Иск может стать прецедентом для регулирования представлений ИИ о своих возможностях.

Источник: interestingengineering

нет
Автор не входит в состав редакции iXBT.com (подробнее »)

Сейчас на главной

Новости

Публикации

В США два года пасли овец рядом с солнечной электростанцией, и животные смогли увеличить число пчёл на участках

Группа учёных из Корнеллского университета в США провела исследование и изучила, как выпас скота на территории солнечных электростанций влияет на насекомых. Учёные смогли получить обнадёживающие...

Как AirTag находит потерянный чемодан, если в нём нет GPS, Wi-Fi и интернета?

Представьте ситуацию: вы прилетели в другой город, а ваш чемодан по ошибке отправился совсем в другую сторону. Открываете приложение «Локатор» на iPhone, смотрите на карту и видите, что багаж с...

Что случится со Вселенной, если в космосе возникнет хотя бы одна точка настоящей пустоты

В повседневной жизни пустотой принято считать пространство, в котором нет никаких предметов и веществ, включая воздух. Однако с точки зрения современной науки создать абсолютную пустоту невозможно....

На Южной Георгии уничтожили крыс на территории более 100 тысяч гектаров — птицы начали возвращаться туда, где не размножались поколениями

Когда первые охотники на тюленей добрались до Южной Георгии в конце XVIII века, вместе с людьми на берег сошёл пассажир, которому здесь раньше не было места. Бурые крысы попадали на остров с...

Как ведут себя тигры в дикой природе: охота, территория, общение и семейная жизнь полосатых хищников

Тигр — один из самых крупных и скрытных хищников планеты. Его образ часто связывают с одиночеством, бесшумной охотой и огромной силой. Но за привычным представлением о полосатом хищнике...

Зачем Нидерланды насыпали в море полуостров из 21,5 млн кубометров песка и дали ему размываться

В 2011 году на голландском берегу Северного моря появился огромный песчаный крюк. Его край выдавался в море примерно на километр. Уже через полгода вода отвоевала у выступа около ста метров....