ИИ представляет риск, сравнимый с ядерной войной — заявляют лидеры индустрии

[Viktor94]

С развитием таких систем, как ChatGPT, Bard и других больших языковых моделей (LLM), мы всё чаще слышим предупреждения от таких людей, как Илон Маск, о рисках, которые представляет искусственный интеллект (AI). Теперь группа выдающихся лидеров индустрии подтвердила эти опасения в коротком заявлении.

Заявление было опубликовано в Центре по безопасности ИИ — организации, целью которой, согласно её сайту, является "снижение рисков от искусственного интеллекта для общества". Подписанты — известные представители индустрии ИИ, включая главного исполнительного директора OpenAI Сэма Альтмана и руководителя Google DeepMind Демиса Хассабиса. Под ним также подписались лауреаты премии Тьюринга, исследователи Джеффри Хинтон и Йошуа Бенджио, которых многие считают отцами современного ИИ.

Это второе подобное заявление за последние несколько месяцев. В марте Илон Маск, Стив Возняк и более 1000 других людей призвали приостановить разработку ИИ на шесть месяцев, чтобы отрасль и общественность могли эффективно догнать технологию.

Последние месяцы представили безудержную гонку ИИ лабораторий по разработке и внедрению все более мощных цифровых умов, которые никто – даже их создатели – не способны понять, предсказать или надежно контролировать.

Несмотря на то, что ИИ, вероятно, не обладает самосознанием, как опасались некоторые, он уже представляет риски злоупотребления и вреда через поддельные видео, автоматизированные дезинформационные кампании и многое другое. LLM также могут изменить способ создания контента, искусства и литературы, что потенциально затронет множество рабочих мест.

Президент США Джо Байден недавно заявил, что "остается наблюдать", опасен ли ИИ, добавив: "На мой взгляд, технологическим компаниям следует заботиться о безопасности своих продуктов перед их выпуском на рынок... ИИ способен помочь справиться с некоторыми очень сложными проблемами, такими как болезни и изменение климата, но он также должен учесть потенциальные риски для нашего общества, нашей экономики, нашей национальной безопасности." На недавней встрече в Белом доме Альтман призвал к регулированию ИИ из-за потенциальных рисков.

Среди множества мнений, новое, краткое заявление призвано продемонстрировать общую тревогу вокруг рисков ИИ, даже если стороны не согласны, в чем эти риски заключаются.

"Эксперты по ИИ, журналисты, политики и общественность все чаще обсуждают широкий спектр важных и актуальных рисков со стороны ИИ", - говорится во введении к заявлению. "Тем не менее, бывает сложно выразить свои опасения о некоторых из наиболее серьезных рисков, связанных с продвинутым ИИ. Ниже приведенное краткое заявление призвано преодолеть этот барьер и стимулировать дискуссию. Оно также призвано создать общие знания о растущем числе экспертов и общественных деятелей, которые также серьезно относятся к некоторым из наиболее серьезных рисков, связанных с продвинутым ИИ."

 

[Aleksich]

Даже если бы нейросети обладали потенциалом стать Ии, вряд ли их можно сравнить с ядерным оружием. Глобальная ядерная война предполагает уничтожение если не планеты, то всего живого на ней. В случае же захвата мира Ии всего лишь сменится доминантный разумный вид. Как говорил Карлин: "Планета в порядке. Это людям пи***ц".

 

[CryptMan]

Просто нагнетание хайпа для инвесторов). Экономика так себе сейчас, вот все и бегают кругами и раздувают хайп. Нейросети это обычный инструмент и ничего более, на данный момент никаким ИИ там и не пахло.

 

[GhoulLeaver]

Ну очень конечно преувеличено,что ИИ это как ядерное оружие,ущерб нанести то может,но такое глобальное разрушение,как при ядерной войне точно не сможет,потому что автор скорее всего не представляет масштаб разрушения при взрыве хотя бы одной атомки.

 

[Jakkan]

Автор похоже терминаторов пересмотрел, для начала вероятность такого очень мала, даже если представить что ИИ сможет проникнуть в интеренет и контролить там все сайты и т.п. то откуда он возьмет мощности на это?