Опасен ли ChatGPT для бизнеса?

Опыт Samsung с ChatGPT показывает , насколько рискованным может быть взаимодействие с ИИ. Сотрудники Samsung Semiconductor использовали искусственный интеллект для обмена внутренними данными, которые могли раскрыть важную информацию о производственных процессах и другие секреты компании.

Хотя с одной стороны ChatGPT упрощает и оптимизирует выполнение задач во многих областях, с другой следует подчеркнуть, что данные собираются и хранятся на внешних серверах . Это означает, что любая информация, введенная в чат-бота, будет сохранена и ее будет невозможно удалить.

В частности, Samsung зафиксировал три утечки данных всего за 20 дней. Это могло иметь катастрофические последствия для бизнеса компании. По этому компания внедрит системы безопасности в ожидании разработки собственного сервиса, аналогичного ChatGPT, только для внутреннего использования.

В первом случае сотрудник ввел весь исходный код совершенно секретного приложения, чтобы искусственный интеллект мог исправить его ошибки . Это означает, что все программное обеспечение было передано сторонней компании без возможности удаления.

Второе касается процесса, разработанного Samsung для производства полупроводников. Сотрудник работал с тестовыми шаблонами, которые компания использует для поиска неисправных дисков и запросов на оптимизацию . Цель состояла в том, чтобы ускорить процедуры тестирования и проверки неисправных чипов, что положительно сказалось на производственных затратах.

В третьем случае, после использования Naver Clova для преобразования записи совещания в текст, она была отправлена ​​в ChatGPT для подготовки презентации . Короче говоря, внутренних данных, которыми делились с чатом всего за 20 дней, было действительно много, что подвергает компанию огромным рискам для ее конкурентоспособности.

На самом деле самая большая проблема связана с возможностями обучения алгоритма, которые могут позволить другим компаниям получить доступ к информации без вмешательства даже OpenAI.

В связи с этим Samsung решила ограничить размер информации, вводимой в чат-боте, до 1024 байт. В любом случае, похоже, корейская компания действительно осуществляет тотальную блокировку доступа к ChatGPT с внутренних терминалов.