В предчувствии сильного ИИ

 Сэм Альтман (хочется написать Семен) из OpenAI опубликовал статью, в которой изложил стратегию компании по созданию AGI - сильного (общего) искусственного интеллекта. Статья написана так, что для автора AGI (системы ИИ, которые, как правило, умнее людей), если и не состоявшийся факт, то совершенно реальная цель ближайшего времени.

https://openai.com/blog/planning-for-agi-and-beyond/

В краткосрочной перспективе компания исходит из того, что
1. По мере того, как наши системы приближаются к AGI, мы становимся все более осторожными при создании и развертывании наших моделей. Хотя некоторые специалисты в области ИИ считают риски, с вымышленными; мы будем рады, если они окажутся верными, но мы будем действовать так, как будто эти риски экзистенциальны .
2. Мы работаем над созданием все более согласованных и управляемых моделей. Мы считаем важным, чтобы общество согласилось с чрезвычайно широкими рамками того, как можно использовать ИИ, но чтобы в этих границах отдельные пользователи имели большую свободу действий. Наша конечная надежда состоит в том, что институты мира договорятся о том, какими должны быть эти широкие границы
3. Мы надеемся на глобальный разговор по трем ключевым вопросам: как управлять этими системами, как справедливо распределять выгоды, которые они генерируют, и как справедливо распределять доступ.
Татьяна Шаврина из Сбера (Kali Novskaja, https://t.me/rybolos_channel/514) из этих достаточно размытых утверждений делает выводы:
— релизы новых разработок будут более закрытыми
— OpenAI будет ограничивать доступ и объем доступного компьюта разным клиентам.
В краткосрочной перспективе:
— будет постепенная выкатка технологий, с намеренным упрощением версий и "замедленным" прогрессом относительно реально достигнутого: это поможет раньше получать фидбек, тренировать системы в реальном мире, а также работать с более реактивными общественными институтами, в частности, разрабатывать новые правила.
— баланс между открытостью и потенциальным вредом может в любой момент поменяться, и это будет отражаться на всей линейке продуктов.

В долгосрочной перспективе:
— публичность разработок OpenAI будет сохраняться, чтобы у общества была возможность принятия решения.
— фокус придётся на акселерацию науки и переход к новой общественной формации.