Facebook остановил работу ИИ, который заговорил на непонятном языке

Чат-боты, которые были созданы для переговоров с людьми, вышли из-под управления и начали общаться на собственном языке.Сначала они использовали английский язык для общения друг с другом, но затем создали новый язык, который могла понять только сама система ИИ, что нарушало цель работы.

Facebook приостановила работу ИИ после того, как разработчики обнаружили этой сбой.

Вот отрывок разговора между чат-ботами:

Алиса: «Мячи имеют ноль для меня для меня для меня для меня для меня для меня для меня для меня для».

Боб: «Ты я все остальное».

Алиса: «Яйца имей яйца для меня для меня для меня для меня для меня».

Боб: «Я».

Алиса: «Мячи имеют ноль для меня для меня для меня для меня для меня для меня для меня для меня для».

Bob: «Ты я я я я я все остальное».

Инцидент с чат-ботами произошел после спора главы Facebook Марка Цукерберга и главы Tesla и SpaceX Илона Маска о будущем технологии искусственного интеллекта, в котором последний предупредил, что ИИ является самым большим риском, с которым сталкивается человечество.