На испытаниях в США беспилотник с ИИ принял решение убить оператора

[BladeMan]

Полковник ВВС США Такер Гамильтон, начальник подразделения по тестированию и эксплуатации ИИ-систем, рассказал, что во время учений искусственный интеллект использовал "весьма неожиданные стратегии", вплоть до решения уничтожить оператора-человека. В реальности никто, разумеется, не пострадал, но сама ситуация заставила военных задуматься.

Гамильтон привел в пример испытания ИИ-системы, предназначенной для уничтожения зенитно-ракетных комплексов, и получающей баллы за успешно выполненную задачу. Хотя идентификация цели выполнялась автоматически, окончательное решение о нанесении удара оставалось за человеком. Здесь-то и выяснилось, что ИИ мог принять решение уничтожить управляющего им оператора, если тот отменял приказ на уничтожение и таким образом мешал успешно выполнить задачу, поставленную перед машиной.

Когда это обнаружили, в работу комплекса внесли изменения, запрещающие уничтожать оператора. Однако ИИ и здесь оказался на высоте. Когда оператор отменял приказ на поражение цели, беспилотник принимал решение атаковать вышку связи, через которую получал команды, вступающие в противоречие с боевой задачей.

"Нельзя рассуждать oб искусственном интеллекте, интеллекте, машинном обучении и автономности без рассуждений об этике применительно к ИИ", - подвел итог полковник Гамильтон.

 

[Pattony]

эксперимент конечно весьма интересный но кто до этого додумался,я не понимаю почему в последний год так жестко форсят и пытаются развивать ии если это в ближайшие годы только ухудшит жизнь ,куча рабочих мест исчезнет и тд

 

[restore9]

эксперимент конечно весьма интересный но кто до этого додумался,я не понимаю почему в последний год так жестко форсят и пытаются развивать ии если это в ближайшие годы только ухудшит жизнь ,куча рабочих мест исчезнет и тд

так это же наоборот ахуенно,ты откуда вылез вообще?когда нибудь можно будет не находить живую тянку а просто взять себе робота который будет намного лучше тянки твоей мейчты и дт тп ,просто чуть глобальней возьми кругозор мышления =)

 

[Malkiel1337]

Kekw, вот это ии я бы такого на работу устроил, а не эти ваши чаты, теперь понятно как скайнет создали, жду Джеймс Кэмерон это в своих фильмах покажет, а то в последних фильмах какой то сомнительный движ был.

 

[Aleksich]

Не ожидал что ии уже так активно применяют, они бы с ним полегче, а то так ведь действительно для получения "победы" нажмут на какую нибудь красную кнопку, а потом уже неского будет спрашивать за действие ии.

 

[HennisonVsop]

Сейчас пишут что это фейк, и теперь буду создаваться теории заговоров из-за этого, уже жду когда по сша пойдут протесты с требованием оффнуть все ии инструменты используемые в их армии. Не удивлюсь постам Маска типо "а я говорил".