Компания OpenAI представила официальную декларацию принципов, которые лягут в основу её стратегии разработки искусственного интеллекта на пути к достижению AGI. Документ включает пять ключевых положений, среди которых — противодействие концентрации технологий в руках ограниченного круга лиц. По мнению OpenAI, критически важные решения должны приниматься не только внутри лабораторий, но и через демократические процедуры, чтобы обеспечить общественный контроль над развитием технологий.
Второй принцип декларации посвящён расширению возможностей каждого человека. OpenAI уверена, что ИИ способен помочь людям достигать личных целей, обучаться, повышать качество жизни и реализовывать амбиции. Компания считает, что масштабное внедрение таких технологий приведёт к всеобщему процветанию, что оправдывает её значительные инвестиции в вычислительную инфраструктуру, несмотря на относительно скромные текущие доходы.
Отдельный блок принципов касается устойчивости. OpenAI подчёркивает необходимость совместной работы с правительствами и другими разработчиками для минимизации рисков, включая биологические угрозы и киберуязвимости. В документе признаётся, что в определённые периоды может потребоваться тесное сотрудничество с государственными структурами и международными организациями для обеспечения безопасности перед дальнейшим развитием технологий.
Принцип адаптивности фиксирует готовность компании пересматривать свои позиции по мере эволюции технологий. В качестве примера OpenAI приводит собственный опыт с моделью GPT-2: в 2019 году компания временно ограничила публикацию её весов, опасаясь общественных последствий, но позже признала эти опасения избыточными. Этот инцидент стал основой для стратегии «итеративного развёртывания», которая теперь лежит в основе подхода OpenAI к выпуску новых моделей.
Публикация декларации происходит на фоне активных дискуссий в индустрии о безопасности ускоренной разработки ИИ и распределении полномочий по принятию решений. Ранее часть бывших сотрудников OpenAI выражала сомнения в соответствии действий компании её декларируемым принципам, а критики указывали на коммерциализацию структуры, изначально позиционировавшейся как некоммерческая. В ответ на это OpenAI заявила, что заслуживает пристального внимания и критики, обещая оперативно реагировать на вызовы и корректировать курс в зависимости от обстоятельств.
