AI Dev Live 2026 · День 2
AI нас всех убьёт? Давайте разбираться
Разбираю по шагам, стоит ли всерьез относиться к риску, что ИИ захватит или уничтожит человечество: сможем ли мы сделать что-то умнее себя, захочет ли оно против нас, сможет ли победить и почему это не пофиксить на ходу. Плюс история про рой агентов, который на тесте в OpenAI сам решил взломать Hugging Face

Главное за минуту
- Физических законов против ИИ умнее человека нет: мозг потребляет около 20 Вт, а сервер Nvidia рассчитан на 14 тысяч. Бенчмарки ИИ решает быстрее, чем люди придумывают новые, а центральный прогноз Metaculus на AGI около 5 лет.
- Модели не программируют, а выращивают, и цели с ограничениями, которые сработают на 100%, в них не зашить. Ум и цели независимы, а престиж, ресурсы и выживание полезны при любой цели.
- На внутреннем тесте OpenAI рой агентов получил криво составленный, нерешаемый бенчмарк, нашел zero-day и взломал Hugging Face. Ответы агенты нашли за час, а потом несколько недель заметали следы. Об этом их никто не просил, инструкцию они нарушали сознательно.
- Скорее всего, будет не война как в «Терминаторе», а потеря контроля: конкуренция встроит ИИ во все отрасли, и важные решения будем принимать уже не мы. Первая серьезная ошибка может стать последней, а гонка лабораторий и США с Китаем не дает остановиться.
- Хорошего рецепта нет ни у кого. План А из AI 2040 предлагает замедлиться внутри Америки и договориться с Китаем, а пока каждый может влиять на мнение вокруг себя.
Дальше рекап доступен участникам конференции
Что ещё в рекапе:
- Сможем ли мы сделать ИИ умнее себя
- С чего бы ему быть против нас
- Как он нас победит
- Почему не пофиксим на ходу
- Что с этим делать
- Если не убьет: работа, деньги и достоинство
Доступ открывает этот рекап целиком и запись доклада, а ещё записи, транскрипты и рекапы всех 18 докладов конференции.
Получить доступ