Семь прогнозов на 2024 от Stanford Institute for Human-Centered AI

И один большой PR от OpenAI и Эрика Шмидта

Среди семи прогнозов Stanford HAI — что ожидать от ИИ в 2024, — три ключевых:

— Дезинформация и дипфейки захлестнут мир.

— Появятся первые ИИ-агенты, не только помогающие, но и делающие что-то за людей.

— Регулирование ИИ зайдет в тупик из-за необходимости решения проблемы «супервыравнивания».

Два первых прогноза понятны без пояснений.

На а третий — поясню.

• Cуществующие методы выравнивания (управление тем, чтобы цели людей и результаты их реализации ИИ совпадали) перестают работать в случае сверхразумного ИИ.
• Появление сверхразумных ИИ (которые превосходят человеческий интеллект в большинстве задач, имеющих экономическую ценность) все ближе.
• Если до их появления не появятся методы выравнивания с ним («супервыравнивания»), миру мало не покажется

С целью решить эту проблему OpenAI и Эрик Шмидт совместно объявили $10 млн программу грантов.

Похвально, но смахивает на PR.

________________________________

Ваши шансы увидеть мои новые посты быстро уменьшатся до нуля, если вы не лайкаете, не комментируете и не делитесь в соцсетях