В рамках имитационных тестов управляемый искусственным интеллектом дрон ВВС США "убил" своего оператора, чтобы тот не мешал ему выполнять свою задачу, пишет "Медуза" со ссылкой на Guardian.
ИИ применил "неожиданные стратегии" в тестах, чтобы выполнить миссию.
Сообщается, что дрону с ИИ было приказано ликвидировать средства ПВО противника, и он атаковал любого, кто хотел помешать выполнению приказа, включая оператора.
"Мы обучили систему: "Эй, не убивайте оператора, это плохо. Вы потеряете очки, если сделаете это". Так что же он начинает делать? Он начинает разрушать башню связи, которую оператор использует для связи с дроном, чтобы не дать ему убить цель", - сказали участники испытаний.
Ни один человек в реальности не пострадал во время моделирования.
Свежие комментарии