Дрон, оснащенный ИИ, атаковал своего оператора: виртуальный сценарий как предупреждение военным [Новости в сети]
|
Список форумов Tapochek.net » Новости » Новости в сети » Архив (Новости в сети) |
|
|
| Автор | Сообщение |
|---|---|
|
Американский полковник Такер Хэмилтон, отвечающий за тестирование и применение технологий искусственного интеллекта (ИИ) в войсках, на конференции британского Королевского авиационного общества рассказал про эксперимент, в котором оснащенный ИИ дрон принял решение атаковать своего же оператора, чтобы выполнить поставленную задачу - уничтожить ракетный комплекс наземного базирования. По словам полковника, беспилотник, в программу которого был заложен запрет причинять вред своему оператору, в итоге уничтожил центр связи, позволявший оператору отдавать ему приказы. Позже представитель ВВС США заявил, что Хэмилтон оговорился, когда рассказывал про эксперимент. Военные настаивают, что в реальности такой эксперимент не ставился, а речь шла о виртуальном сценарии, просчитанном на компьютере. Сам Хэмилтон в письме организаторам конференции тоже уточнил, что американские военные "никогда не проводили такой эксперимент, да это и не нужно было для выяснения возможного результата". Однако сама возможность подобного развития событий, даже в виртуальном пространстве, насторожила экспертов. Потенциальные угрозы Представители индустрии, связанной с искусственным интеллектом, в последнее время все чаще предупреждают о потенциальных угрозах для человечества, которые он несет, хотя многие эксперты в этой области склонны считать такой риск преувеличенным. Тем не менее один из трех "крестных отцов" искусственного интеллекта, обладатель престижной премии Тьюринга канадский ученый Йошуа Бенжио заявил в интервью Би-би-си, что, по его мнению, военных вообще нельзя подпускать к технологиям ИИ. Это худшие руки, в которые только может попасть продвинутый искусственный интеллект, уверен ученый. Другой "крестный отец" ИИ, знаменитый ученый-компьютерщик Джеффри Хинтон недавно заявил, что уходит из технологического гиганта Google, назвав страшными опасности, связанные с применением ИИ в чат-ботах. Недавно открытое письмо об этом подписали предприниматель Илон Маск и сооснователь Apple Стив Возняк, предупредившие о целом ряде рисков, связанных с ИИ: от распространения дезинформации до лишения людей работы и потери контроля над цивилизацией. "Не делать то, что не надо" Корреспондент Би-би-си Зои Клейнман провела несколько часов, пытаясь собирая мнения экспертов как в области обороны, так и в области искусственного интеллекта, и все они скептически отнеслись к истории полковника Хэмилтона. Один эксперт предположил, что в истории полковника Хэмилтона, по крайней мере, отсутствует важный контекст. Стив Райт, профессор аэрокосмической техники в Университете Западной Англии и эксперт по беспилотным летательным аппаратам, пошутив, что он всегда был поклонником фильмов о Терминаторе, рассказал: "В компьютерах управления самолетом есть две вещи, о которых нужно беспокоиться: "делать то, что надо" и "не делать то, что не надо", так что это классический пример второго варианта". "В реальности мы решаем эту проблему, всегда подключая второй компьютер, который запрограммирован с использованием методов еще старой школы и, образно говоря, вырубает рубильник, как только первый сделает что-то странное", - добавил Стив Райт. |
|
 
|
|
|
 Выходит, базовую систему защиты этот дрон обошел, но был это самое, контрольной системой.
Напоминает одну ну очень дурацкую фантастику от зоричей, где внедрившийся ии за несколько лет взял под контроль боевой космический корабль) _________________ Сталинист и кадыровец(Рамзана на трон!)) Кремлебот для дураков и более низших. AMD Ryzen 5 3600, B450 GAMING X,MSI GeForce RTX 3070, 8(WD Purple 4, Ultrastar 2, Blue 2) тб на 3 винтах + 950 гб ссд, 16 гигабайт оперы и корпус на 14 винтов. Самый быстрый тормоз во всей этой галактике, во всем что касается замены запчастей своего компьютера) Небратья не завалили Россию в отведенный попкам срок. |
|
|
|
|
|
DartX писал(а): Выходит, базовую систему защиты этот дрон обошел, но был это самое, контрольной системой. Напоминает одну ну очень дурацкую фантастику от зоричей, где внедрившийся ии за несколько лет взял под контроль боевой космический корабль) |
|
|
|
|
|
Цитата: и все они скептически отнеслись к истории полковника Хэмилтона _________________ LG OLED77С8..playstation 5 LG 27GN750-B ryzen 7 3700x asrock b550 32gb 3200Mhz Msi rtx 2080super gaming x trio |
|
|
|
|
|
Цитата: Роберта Шекли, "Страж-птица". _________________ Сталинист и кадыровец(Рамзана на трон!)) Кремлебот для дураков и более низших. AMD Ryzen 5 3600, B450 GAMING X,MSI GeForce RTX 3070, 8(WD Purple 4, Ultrastar 2, Blue 2) тб на 3 винтах + 950 гб ссд, 16 гигабайт оперы и корпус на 14 винтов. Самый быстрый тормоз во всей этой галактике, во всем что касается замены запчастей своего компьютера) Небратья не завалили Россию в отведенный попкам срок. |
|
|
|
|
|
DartX писал(а): таких мастеров научной и прочей фантастики в наше время маловато |
|
|
|
|
|
Цитата: не предполагающий вдумчивую редактуру Читаю довольно таки много, не одними играми жив. Обычно дрянь с чем то хорошим чередую. _________________ Сталинист и кадыровец(Рамзана на трон!)) Кремлебот для дураков и более низших. AMD Ryzen 5 3600, B450 GAMING X,MSI GeForce RTX 3070, 8(WD Purple 4, Ultrastar 2, Blue 2) тб на 3 винтах + 950 гб ссд, 16 гигабайт оперы и корпус на 14 винтов. Самый быстрый тормоз во всей этой галактике, во всем что касается замены запчастей своего компьютера) Небратья не завалили Россию в отведенный попкам срок. |
|
|
|
|
|
|
|
|
Страница 1 из 1 |
|
|
Список форумов Tapochek.net » Новости » Новости в сети » Архив (Новости в сети) |
Текущее время: 25-Ноя 13:13
Часовой пояс: GMT + 4
Вы не можете начинать темы
Вы не можете отвечать на сообщения Вы не можете редактировать свои сообщения Вы не можете удалять свои сообщения Вы не можете голосовать в опросах Вы не можете прикреплять файлы к сообщениям Вы не можете скачивать файлы |