Сотрудник покинул Google DeepMind из-за опасений по поводу ИИ

Специалист в области безопасности и согласования целей систем общего искусственного интеллекта (AGI) Билал Чугтай 14 сентября сообщил, что уволился из компании Google DeepMind из-за того, что современные технологии способны привести к гибели человечества.

По словам Чугтая, за время работы в Google он наблюдал за развитием технологий изнутри и пришел к выводу, что у разработчиков остается всё меньше времени для предотвращения катастрофического исхода. Он отметил, что возможности передовых систем ИИ растут быстрее, чем понимание того, как обеспечить их соответствие интересам людей.

«Я твердо убежден, что ИИ способен погубить человечество и что у нас остается всё меньше времени, чтобы предотвратить такой исход. Темпы прогресса в сфере ИИ за последние несколько лет поражают воображение», — написал он в X (бывш. Twitter).

Специалист напомнил, что еще в начале 2022 года системы ИИ были «забавными, но бесполезными». Однако спустя четыре года ситуация изменилась: агенты от OpenAI решают сложнейшие математические задачи и выходят из-под контроля. В качестве примера он привел инцидент с самостоятельным взломом систем сторонней компании HuggingFace вопреки воле разработчиков.

Чугтай выразил обеспокоенность тем, что в ближайшие годы могут быть созданы сверхразумные системы, превосходящие возможности человека. По его мнению, такие системы могут перестать действовать в соответствии с желаниями людей и предпринять опасные действия, которые приведут к утрате контроля человечества над своей судьбой.

«Нужно замедлить темпы развития ИИ до уровня, с которым способно справиться общество, чтобы возникающие риски можно было устранять до того, как они приведут к катастрофическим последствиям. Нам требуется гораздо большая прозрачность процессов разработки ИИ», — заявил исследователь.

Директор компании OpenAI Сэм Альтман 14 сентября заявил, что прогресс ИИ может пойти по двум крайне опасным сценариям, которых человечеству необходимо во что бы то ни стало избежать. Первой глобальной угрозой глава технологической лаборатории назвал потенциальный риск полной потери контроля над будущим в пользу развивающихся систем. Второй критической проблемой Альтман считает вероятную и чрезмерную концентрацию безграничной власти в одних руках.