ИИ может уничтожить человечество. Если мы не наделим его сознанием

Искусственный интеллект, не обладающий самосознанием, может уничтожить человечество. Об этом заявил профессор физики Массачусетского университета Марк Тегмарк в интервью IEEE Spectrum, рассказывая про свою книгу «Life 3.0».

Статья по теме

Искусственный интеллект научился предсказывать будущее

«Это основа безопасной инженерии: ты должен усердно думать о том, что может произойти, для того, чтобы это предотвратить», – рассказывает Марк. Согласно его прогнозу, в ближайшем будущем ИИ может стать одним из главных факторов развития цивилизации и прогресса человечества в целом. Сейчас разработки ведутся в основном по увеличению мощности и расширению функционала, но мало кто разрабатывает методы управления этой структурой. Писатель настаивает на том, что исследовать проблему нужно сейчас, чтобы не допустить развития наихудшего сценария.

Ключевой фактор, который должен сделать ИИ помощником, а не угрозой человечеству – это сознание, в терминах автора определяемое как субъективный опыт и самоосознание как субъекта. «Все что я люблю в цивилизации – это продукт разума. Если мы можем создать полезный нам суперразум, мы сможем помочь человечеству добиться невероятного процветания», – подытоживает интервью Марк Тегмарк