Из ведущих компаний по разработке ИИ увольняются топ-менеджеры. Они боятся, что их работа приведёт к уничтожению человечества.
Как пишет издание Axios, за последнее время из передовых компаний, работающих над нейросетями, уже ушли 10 сотрудников. Это не обычные менеджеры, а люди из руководства и ведущие инженеры. Причина — страх перед развитием технологии, которая может привести человечество к катастрофе.
Илон Маск, основатель Grok, у себя на странице в X оценил p(doom) в 20%. P(doom) изначально была шуткой, но теперь стала серьёзной метрикой, измеряющей риск гибели человечества от сверхразумного ИИ. Генеральный директор Google Сундар Пичаи в подкасте у Лекса Фридмана назвал схожий диапазон — от 15% до 25%.
Речь идёт об AGI — сильном искусственном интеллекте, сравнимом с человеческим, способным к универсальному обучению и решению задач. Никто точно не знает, когда он появится. Тот же Пичаи считает, что это произойдёт чуть позже, чем через 5 лет.
Для оптимистов, не видящих в ИИ угрозы, авторы исследования высказали своё мнение:
Сами разработчики ИИ оценивают вероятность уничтожения человечества в 1 из 10, а возможно, даже в 1 из 5.
А ваше мнение на этот счет?
