Сооснователь ИИ-стартапа Anthropic Джек Кларк заявил о необходимости иметь возможность замедлять развитие искусственного интеллекта. В интервью программе BBC Newsnight он предупредил, что технология стремительно приближается к точке, когда сможет развиваться без участия человека.
«Вы должны иметь возможность убрать ногу с газа и нажать на тормоз», — отметил Кларк. «Сейчас же кажется, что у всей индустрии ИИ есть только педаль газа, а тормоз полностью отсутствует».
По словам Кларка, общество через государственную политику обязано сохранять контроль над ИИ-системами, чье влияние на мир будет только усиливаться. В качестве примера темпов развития он привел флагманского чат-бота компании: уже сейчас популярный бот Claude работает на коде, который на 80% написан им самим. Кларк подчеркнул, что переход к 100% автономности ИИ в написании кода возможен всего за два года, и это повлечет за собой «огромные последствия».
Исторические параллели и проблема регулирования
Джек Кларк не дал конкретных инструкций, как именно должна выглядеть «педаль тормоза» для ИИ-разработчиков, но провел историческую параллель с нефтяным бумом и «нефтяными баронами» рубежа XIX–XX веков.
«Тогда ответом общества стало создание разумной политики и нормативно-правовой базы. Это вернуло людям уверенность в безопасности нефтяной индустрии и позволило пользоваться ее благами, не завися от воли руководителей конкретных корпораций. Ровно к этой точке мы пришли сегодня и с ИИ», — пояснил соучредитель Anthropic.
Тем не менее на практике жесткое регулирование пока буксует. На этой неделе Anthropic поприветствовала новый исполнительный указ президента США Дональда Трампа в сфере ИИ. Документ оказался достаточно мягким и практически не вмешивается в деятельность технологических компаний. В частности, указ не обязывает разработчиков проходить государственное тестирование безопасности — этот процесс до сих пор остается исключительно добровольной инициативой.
Ни Anthropic, ни ее главные конкуренты — OpenAI и Google — не заявляли о планах приостановить свои исследования.
Масштабы Anthropic и цели компании
Стремительный рост Anthropic за пять лет с момента основания привел компанию к подготовке к дебюту на публичном фондовом рынке. Это IPO может стать одним из первых среди ИИ-стартапов новой волны и претендует на статус одного из самых дорогих в истории: частные инвесторы оценивают Anthropic почти в $1 триллион (£745 млрд).
На фоне таких финансовых успехов Кларк заверил, что мотивация Anthropic публично говорить о рисках и растущих возможностях ИИ — это не маркетинговый ход для привлечения платежеспособных клиентов.
По его словам, цель руководства компании гораздо проще: «рассказать миру о том, что именно мы, находясь внутри этих корпораций, видим за фасадом этой необычной технологии».
Источник: hronika.info