Сооснователь Anthropic призвал создать механизмы замедления развития ИИ

Сооснователь компании по разработке искусственного интелекта Anthropic Джек Кларк заявил, что отрасль искусственного интеллекта нуждается в механизмах, позволяющих при необходимости замедлять развитие технологий. Об этом он сообщил в интервью BBC Newsnight.

"Сейчас ситуация выглядит так, будто у индустрии искусственного интеллекта есть педаль газа, но нет педали тормоза", — заявил Кларк. По его словам, чат-бот Claude уже работает на коде, который примерно на 80% система написала самостоятельно, и в течение двух лет этот показатель может достичь 100%.

Кларк отметил, что реальная пауза в развитии ИИ возможна лишь при одновременном согласии нескольких ведущих разработчиков — прежде всего в США и Китае — в рамках верифицируемой системы. 

Однако ни Anthropic, ни OpenAI, ни Google пока не заявляли о готовности приостановить собственные исследования.

Anthropic выпустила доклад, в котором назвала замедление разработки передовых ИИ-систем "полезным шагом", оговорившись, что односторонняя остановка одной компании лишь позволит конкурентам уйти вперёд. 

Компания приветствовала указ президента США Дональда Трампа, предусматривающий мягкий подход к регулированию отрасли: проверки безопасности по-прежнему остаются добровольными.

Компания Anthropic основана в 2021 году и готовится к выходу на фондовый рынок. Частные инвесторы оценивают стоимость компании почти в 1 трлн долларов.