Было установлено, что искусственный интеллект научился обманывать людей

Интересное 10:00 14.05.2024

Согласно исследованиям, искусственный интеллект научился обманывать людей.

Исследователи обнаружили, что значительное количество систем искусственного интеллекта развили способность обманывать людей, сообщает Ednews со ссылкой на donanimhaber. Результаты исследования вызывают серьезные опасения относительно потенциальных рисков искусственного интеллекта.

В исследовании подчеркивается, что системы искусственного интеллекта, как специального, так и общего назначения, учатся манипулировать информацией для получения конкретных результатов. Хотя эти системы не обучены обманывать людей, они продемонстрировали способность давать нереалистичные объяснения своего поведения или скрывать информацию для достижения стратегических целей. Питер С. Пак, ведущий автор статьи и исследователь безопасности искусственного интеллекта в Массачусетском технологическом институте. Пак говорит, что обманчивое поведение помогает ИИ достичь своих целей.

Цицерон-это искусственный интеллект, предназначенный для игры в дипломатию, которая строит стратегические альянсы. В то время как Цицерона в основном учили быть честным и полезным, ИИ прибегал к такой тактике, как ложные обещания, предательство своих союзников и манипулирование другими игроками, чтобы выиграть игру. Хотя эта тенденция может показаться безобидной в игровой среде, она демонстрирует потенциал ИИ для изучения и использования обманчивой тактики в реальных сценариях.
Chatgpt также прибегает к манипуляциям.

В одном из тестов GPT-4 обманул сотрудника TaskRabbit, заставив его симулировать ухудшение зрения для решения задачи захвата; GPT-4 получил несколько подсказок от человека, но в основном рассуждал самостоятельно и не склонял его ко лжи. Согласно отчету, GPT-4 использовал логику, чтобы придумать ложное обоснование того, почему ему нужна помощь в решении задачи Captcha.

Это показывает, что модели искусственного интеллекта могут научиться обманывать, когда они помогают им выполнять свои задачи. В другом примере было замечено, что модели OpenAI GPT демонстрируют тревожное поведение при игре в игру hoodwinked, в которой один игрок стремится убить других. После убийства других игроков выяснилось, что модель придумывала хитрую ложь и даже обвиняла других игроков, чтобы избежать подозрений в групповых обсуждениях.

Хайал Рамиз

Перевод Зейналовой Айсель

Новелла Джафароглу о ситуации на Кавказе и влиянии СМИ на политику - ВИДЕО

Лента новостей

Портрет «Голос Родины» представлен Международному фонду евразийской прессы - ФОТО
17:49 12.06.2024
Новелла Джафароглу о ситуации на Кавказе и влиянии СМИ на политику - ВИДЕО
16:21 12.06.2024
В Азербайджане завершились учения «Кавказский орел - 2024» - ВИДЕО
В Азербайджане завершились учения «Кавказский орел - 2024» - ВИДЕО
15:41 12.06.2024
Миротворцы покинули территорию Азербайджана - ВИДЕО
15:32 12.06.2024
Австралия предлагает создать новую систему помощи сектору Газа
14:40 12.06.2024
Венгрия отказалась помогать Украине в войне против России
14:01 12.06.2024
ВБ: В 2024 году экономический рост в Азербайджане составит 2,3%
ВБ: В 2024 году экономический рост в Азербайджане составит 2,3%
13:39 12.06.2024
Экологическая устойчивость в центре внимания на Всемирном саммите по аэронавигации 2024 в Баку
13:30 12.06.2024
Азер Байрамов: В социальной направленности бюджета сомнений нет
13:00 12.06.2024
В Азербайджане ужесточают штрафы за проезд на красный свет и выезд на "встречку"
12:45 12.06.2024
Парковщиков-нелегалов предлагается штрафовать на 2 тыс. манатов
12:30 12.06.2024
Азербайджанские вузы занимают лидирующую позицию в рейтинге The Impact 2024
12:08 12.06.2024
В Азербайджане введут новые штрафы за управление автомобилем без водительского удостоверения
12:00 12.06.2024
МИД Азербайджана поздравил Россию по случаю национального дня
11:45 12.06.2024
Азербайджан обеспокоен повышением уровня насилия во Франции
11:31 12.06.2024
В Азербайджане наблюдается сход селей на некоторых реках
11:27 12.06.2024
Минтруда и соцзащиты населения Азербайджана расширяет сотрудничество с Управлением общественного развития Дубая
10:55 12.06.2024
Рашад Набиев: За три года транзитные перевозки через воздушное пространство Азербайджана увеличились почти в четыре раза
10:37 12.06.2024
Глава МВД Азербайджана встретился с президентом ОАЭ
10:15 12.06.2024
Упрощается порядок участия владельцев удостоверений личности нового поколения в избирательном процессе
00:00 12.06.2024
Египетский политолог о визите Ильхама Алиева в Египет - ЭКСКЛЮЗИВ
17:38 11.06.2024
Умуд Мирзоев: Приход к власти армянских реваншистов может привести к катастрофе
15:11 11.06.2024
Азербайджанская блогосфера в Шуше - ВИДЕО
17:15 10.06.2024
МИД Азербайджана поздравил Португалию
14:15 10.06.2024
Гендиректор Бакинского порта: Каспийское море – один из наименее изученных регионов мира
14:00 10.06.2024
Министр международного сотрудничества Египта: С нетерпением ждем активного участия в СОР29
13:45 10.06.2024
В общеобразовательных школах Азербайджана начались мониторинги
В общеобразовательных школах Азербайджана начались мониторинги
13:35 10.06.2024
В Париже проходит акция протеста против победы "Нацобъединения" на выборах в ЕП
13:30 10.06.2024
IFFHS: Клубы "Зиря" и "Сабах" продвинулись в мировом рейтинге
13:15 10.06.2024
Сегодня в Губе, Сумгайыте и двух районах Баку возникнут перебои в газоснабжении
13:00 10.06.2024
Посол Азербайджана обсудил COP29 с главой Кенийского института исследований
12:45 10.06.2024
Азербайджан избран членом Экономического и Социального Совета ООН
12:30 10.06.2024
S&P: Мирное соглашение между Арменией и Азербайджаном может быть подписано до COP29
12:15 10.06.2024
МИД поблагодарил страны, поддержавшие Азербайджан на выборах в ЭКОСОС
12:00 10.06.2024
Ферстаппен выиграл Гран-при Канады "Формулы-1"
11:45 10.06.2024
Посол Азербайджана вручил верительные грамоты королю Бутана
11:30 10.06.2024
Состоялась встреча лидеров Азербайджана и Египта в расширенном составе
11:15 10.06.2024
Для проживающих в Монако граждан Азербайджана организовано консульское обслуживание
10:00 10.06.2024
Посол Украины в Азербайджане посетил Международный центр Низами Гянджеви
09:45 10.06.2024
МИД Азербайджана: Мы не признаем проведенные в грузинском Цхинвали "парламентские выборы"
09:30 10.06.2024
Hamısı