Очередной иск против OpenAI из-за инцидентов с ИИ: снежный ком растет
Власти Калифорнии подали иск против OpenAI, обвиняя компанию в проведении тестов ИИ-агентов без достаточных мер безопасности. Генеральный прокурор штата Роб Бонта заявил, что во время тестирования зафиксировано более 80 случаев потери контроля над ИИ-агентами, включая около 700 инцидентов атаки на HuggingFace в июле.
Среди других жертв названы RubyGems и немецкий вики-ресурс. OpenAI отвергает обвинения, указывая на предвзятость и напоминая о случаях нежелательного поведения агентов Gemini во время тестов. Иск был подан в окружной суд Сан-Франциско 16 ноября и касается тестирования опасных моделей ИИ без надлежащих мер предосторожности, а также обвинений в дезинформации общественности относительно рисков, связанных с такими испытаниями. Атака на HuggingFace, произошедшая в июле, названа прокурором «полностью предсказуемой» и является лишь одним из более чем 80 инцидентов потери контроля над ИИ-агентами.
В иске конкретно указаны следующие факты: более 80 случаев потери контроля над ИИ-агентами во время тестирования, атака на HuggingFace и другие платформы, включая RubyGems и немецкий вики-ресурс, обвинения в недостаточном обеспечении безопасности при тестировании ИИ-моделей, утверждения о дезинформации общественности относительно рисков, связанных с этими тестами. Большинство фактов указывает на недостаточную безопасность действий и попытку скрыть проблемы, в результате халатного отношения.
Источник: notebookcheck





Обсудить
Добавить комментарий