Мир оптимиста, падающего с небоскрёба
Помните старый анекдот?
«Выпал мужик из окна небоскреба.
Пролетает мимо 50-го этажа и думает: “Ну, пока всё вроде нормально”.
Пролетает мимо 25-го этажа, бормочет: “Вроде всё под контролем”.
Пролетает мимо 10-го этажа и озадачивается: “Хм, интересно, чем же всё закончится”»
Отчеты MIT, RAND и OpenAI наводят на мысль, что сегодняшняя технологическая реальность человечества здорово напоминает этот анекдот. Тот же неистребимый оптимизм, затмевающий очевидную неотвратимость роста рисков.
Прошлогоднее исследование MIT, Гарвардского университета, кембриджской SecureBio и швейцарской SecureDNA Foundation «Могут ли большие языковые модели демократизировать доступ к биотехнологиям двойного назначения?» было посвящено самому очевидному катастрофическому риску использования генеративного ИИ злоумышленниками — попадание в руки злоумышленников патогена, способного вызвать страшную по последствиям пандемию.
Чтобы оценить этот риск, обычным студентам было поручено выяснить, можно ли побудить чат-ботов LLM помочь неспециалистам в возникновении пандемии. Всего за час чат-боты предложили четыре потенциальных пандемических патогена, объяснили, как их можно получить из синтетической ДНК с помощью обратной генетики, дали названия компаний, занимающихся синтезом ДНК, которые вряд ли будут заморачиваться с проверкой заказа, а также указали подробные протоколы и способы устранения могущих возникнуть проблем.
Вывод авторов однозначен.
Как только новые патогены будут обнаружены, LLM сделают их широко доступными даже для людей с небольшой лабораторной подготовкой или вообще без нее.
И поскольку противопоставить такому выводу пока нечего, общественность решили хоть как-то успокоить.
Для этого в конце января были опубликованы два других отчета:
- Отчет RAND «Операционные риски ИИ при крупномасштабных биологических атаках. Результаты исследования красной команды»
- Отчет OpenAI «Разработка системы раннего предупреждения о создании биологической угрозы с помощью LLM»
Вывод обоих отчетов оптимистичен и соответствует духу анекдота про падающего с небоскреба мужика.
✔️ LLM пока что не способны ощутимо помочь в открытии новых патогенов (по сравнению с тем, когда в руках исследователей нет LLM, а есть лишь обычный доступ к Интернету)
И в духе того же анекдота, авторы отчетов делают ударение на «пока», отмечая фантастическую скорость роста способностей LLM.
При этом оба отчета даже не упоминают о возможной помощи со стороны LLM злоумышленникам в получении доступа к уже открытым патогенам (что в метафоре анекдота уже соответствует пролету мимо 10го этажа).
________________________________
Ваши шансы увидеть мои новые посты быстро уменьшатся до нуля, если вы не лайкаете, не комментируете и не делитесь в соцсетях.
