Unian/Business Insider

В последние дни все чаще звучат громкие заявления о том, что уже совсем скоро искусственный интеллект может стать угрозой для человечества. Первым, кто возглавил эту новую волну апокалиптических предупреждений, стал бывший исследователь Anthropic Джейкоб Коксон, который утверждает, что Anthropic и OpenAI “рискуют жизнями людей”. Позже его поддержал Пол Кристиано из совета директоров и комитет по безопасности OpenAI.

Как пишет Business Insider, все это внезапное внимание может снизить вероятность реализации наихудшего сценария. Более того, крупные игроки в ИИ-индустрии согласились объединиться, чтобы бороться с этой угрозой.

Кристиано после заявления Коксона заверил, что “большинство людей может погибнуть”, если будет создан “сверхразум без более надежной системы согласования”. Позже генеральный директор Anthropic Дарио Амодей поддержал это заявление и предложил план безопасности из трёх шагов

Затем глава OpenAI Сэм Альтман ответил, что его компания присоединится к инициативе Anthropic по предоставлению независимым экспертам широкого доступа. Позже глава Tesla и SpaceX Илон Маск в соцсетях написал, что Амодей прав относительно опасности ИИ.

В издании подчеркнули, что открытое обсуждение угроз со стороны ИИ ведёт к более широкой осведомлённости. Вероятно, это может помочь избежать события, способного привести к вымиранию человечества, о котором предупреждают в компаниях Anthropic и OpenAI.

Также в издании отметили, что рынки в целом остаются невозмутимыми. На прошлой неделе фондовый рынок продемонстрировал снижение, однако затем акции компаний в сфере ИИ выросли, завершив неделю в плюсе.