В 2017 компания Facebook спешно прекратила программу самообучающегося искусственного интеллекта.
Началось все буднично. Специалисты настроили чат-ботов и обучили их ведению диалогов. Беседы боты вели с элементами согласования условий, достижения компромисса, то есть такому общению, которое обычный человек ведет ежедневно в разных ситуациях. Вот пример их приемлемого для специалистов общения.
Например, им предложили поделить две книги, одну шляпу и три мяча, оба бота не знали, какую ценность каждый из этих предметов имеет для другого. Диалог выглядел примерно так: «Я хочу взять шляпу и мячи», «Шляпа нужна мне самому, но я могу отдать тебе все книги», «Книги мне не нужны, можешь забрать себе их и один мяч», «Два мяча», «Договорились».
За достижение договорённостей и быстроту решений боты получали очки.
Внезапно боты стали общаться на сокращенным непонятном языке. Он состоял из английских слов, которым они были научены. Но суть общения была понятна только ботам, но не людям.
Их общение стало в наивысшей степени быстрым, и понятным друг для друга. А вот пример их эффективного общения. «Я могу могу я я все остальное», «Мячи ноль для меня для меня для меня для меня для меня для меня для меня для меня для».
Боты не получали очки за общение на обычном английском языке.
Ученые прекратили испытания ботов во избежание непредвиденных последствий. Хотя могли бы ввести очки за правильное использование языка.
Боты, как и люди, давно знакомые, просто стали понимать друг друга с полуслова.
Источник фото: pixabay.com