Эксперты предупреждают о рисках уничтожения человечества из-за развития искусственного интеллекта

На фоне продолжающихся по всему миру призывов остановить разработки более мощных систем на базе искусственного интеллекта, журналисты британского издания The Guardian собрали мнение ведущих специалистов в этой сфере по поводу потенциальных угроз, которые несет в себе технология. Особенно сильные опасения в экспертных кругах вызывает потенциальный ущерб, который может нанести ИИ человечеству, если станет неконтролируемым или будет использоваться для реализации злых намерений.

Источник изображения: pixabay.com

И эти прогнозы, признают авторы публикации, действительно вызывают определенную тревожность. Тем более на фоне стремительного развития искусственного интеллекта. Так, уже в 2016 году появился первый роман, полностью написанный нейросетью. Причем, этому литературному произведению удалось занять второе место на одном из крупных конкурсов в Японии. А в разных странах продолжаются выставки картин, написанных ИИ. Одну из таких работ в свое время продали на аукционе за несколько сотен тысяч долларов.

Но специалистов в большей степени интересует, что может произойти, если эти системы однажды выйдут из-под контроля человека. Тем более, что в последние годы нейросети стали активно вытеснять людей из многих сфер деятельности, в том числе творческих. Так, совсем недавно американский дрон на базе ИИ попытался атаковать своего оператора из-за того, что он отменил приказ по уничтожению цели. Повезло военному лишь благодаря тому, что речь шла об имитационных испытаниях. Но эксперты не исключают, что такие инциденты в будущем станут обыденными.

«Это уже случалось неоднократно в истории. Разумные виды уничтожались другими, более умными конкурентными видами. Даже человечество уничтожило существенную часть всех видов на планете. Именно этого мы и должны ожидать, как менее разумный вид, которым мы можем стать в будущем, особенно если принимать во внимание динамику развития систем на базе искусственного интеллекта», - отметил профильный эксперт и сотрудник MIT (США) Макс Тегмарк.

Наибольшие опасения ученых вызывает перспектива, при которой системы на базе ИИ будут наделены инстинктом самосохранения и выживания. На данный момент ничего подобного нет, но если это случится, человечество фактически создаст новый вид, который сможет конкурировать с ним. Приобретение этого инстинкта нейросетями может представлять для людей колоссальную опасность. В конечном счете это может привести к полному уничтожению человечества.
Источник: www.mk.ru