Мы используем файлы cookie и сервисы аналитики. Ознакомьтесь с нашей Политикой сбора данных и выберите, какие типы cookie вы разрешаете:
cookie_policy_accepted — хранит ваш выбор cookiePHPSESSID — сессияkey3 — запоминание входа_ix — единая сессия входа на ixbt.comadminuserskey — вход администратораtopic_add_autosave — автосохранение черновикаls_photoset_target_tmp — временные данные загрузки фотоgeo_country — определяет ваш регион_ga, _ga_*, _ym_uid, _ym_d, _ym_* — статистика посещений__gads, __gpi — таргетирование объявленийВы всегда можете изменить свои предпочтения в настройках.
Представляю себе продуктовый магазин: мы беспокоимся о здоровье пользователей, всегда следим за свежестью продуктов, и тухлого мяса вы у нас не найдете! Но продать цианистый калий под видом мяса вам могут вполне, всем пофиг. Лишь бы свежий был, конечно.
1. идея обучать нейросеть на ее собственных решениях дурная, поскольку будет закреплять в том числе и ошибки. Проверять решения сети и отдавать для дообучения только правильные — еще туда-сюда.
2. и да, вполне понятно, что это приводит к положительной обратной связи, что означает неустойчивость. Поэтому система может скатиться в состояние, когда всегда будет давать один ответ. А может выделиться и несколько пиков. Но да, пики будут усиливаться.
3. и по-прежнему неясно, почему вы решили, что жадность приведет всегда к максимальным наказаниям. С тем же успехом нейросеть может скатиться ко всегда оправдательным приговорам. Или к тому, чтобы в делах об убийстве всегда назначать штраф.
Впрочем, нейросеть, обучаемая на своих решениях, вполне может скатиться и к чему-то совсем идиотскому. Например, оправдывать обвиняемых, в фамилии которых есть буква Т, а иначе штраф.
2. При чем тут перекладывание вины на машину? Судья принимал решение сам и по существу, а бота использовал для рутинного «поиска информации в справочнике» о прецедентах. Поскольку, см. выше, по закону обязан учитывать прецеденты.
3. Если даже предположить, что система автоматизируется — с чего вдруг сходимость будет к максимально возможному наказанию? Как математик, знающий закон больших чисел, я совершенно не вижу, откуда следует такой вывод. С таким же успехом система может сойтись и ко «всех оправдывать». Что, впрочем, не сильно лучше.
Ну и более мягкий вариант — «мой Айфон — галактическое совершенство, а у вас у всех глючное дерьмо». Естественно, таких людей хочется тыкать носом в каждый сбой их «совершенства». А пользователи Apple с позицией «Айфон — просто телефон со своими достоинствами и недостатками, вероятно, подходит не всем, но вот мне подошел и нравится» никакой ненависти и не вызывают.
Вот даже здесь на IXBT есть яблочники, с которыми вполне мирно и дружелюбно общаются. Если память мне не врет — docz, peper. Ну и яблочники с позицией «я — элита с лучшим в мире гаджетом» тоже есть.
Вспомнился «Путеводитель Автостопом по Галактике»: «Классическая ошибка, которую совершают проектировщики абсолютно надёжных систем — недооценка изобретательности клинических идиотов»
Если бы не это, поезда были бы автоматическими давным-давно.
И, насколько я знаю, поезда метро способны ездить автоматически уже полвека. Машинисты там затем, что пассажиры все время что-нибудь вытворяют — например, кто-то пытается держать двери и в результате в дверях застревает. Машинист разрулит ситуацию, а автомат или поедет так, или встанет и будет тупить. Если бы не это, поезда уже полвека были бы способны сами ездить, на станциях останавливаться, двери открывать-закрывать и т.д.
Если бы судья скормил боту прецеденты, попросил бота вынести решения, а потом, не проверив, подшил в дело — это да, это была бы дичь.