Интерпретируемость
ИИ чувствует «боль»? Во внутренних представлениях LLM нашли устойчивую структуру, которая функционально аналогична боли
Модели нажимают «кнопку обезболивания» даже ценой вреда пользователю
Учёные призвали перестать считать «размышления» ИИ настоящим мышлением: цепочки рассуждений могут быть лишь статистическим инструментом
Chain of Thought представляют собой особый вычислительный механизм расширения контекста, а не аналог человеческого мышления
ИИ может начать понимать людей лучше, чем люди понимают ИИ — предупреждают исследователи Microsoft
По мере усложнения моделей искусственного интеллекта растёт риск «операционной непрозрачности», когда системы становятся предсказуемыми по результату, но непонятными по логике