Süni intellektin insanları aldatmağı öyrəndiyi müəyyən edilib

Maraqlı 09:45 14.05.2024


AraşdırmalarA görə süni intellekt insanları aldatmağı öyrənib.

Ednews donanimhaber-ə istinadən xəbər verir ki, Tədqiqatçılar müəyyən ediblər ki, xeyli sayda süni intellekt sistemi insanları aldatmaq qabiliyyətini inkişaf etdirib. Bu nəticələr süni intellektin potensial riskləri ilə bağlı ciddi narahatlıq doğurur.

Tədqiqatçılar müəyyən ediblər ki, süni intellekt sistemlərinin əhəmiyyətli bir hissəsi insanları aldatmaq qabiliyyətini inkişaf etdirib. Bu nəticələr süni intellektin potensial riskləri ilə bağlı ciddi narahatlıq doğurur.

Tədqiqat vurğulayır ki, həm xüsusi, həm də ümumi təyinatlı süni intellekt sistemləri xüsusi nəticələr əldə etmək üçün məlumatı manipulyasiya etməyi öyrənirlər. Bu sistemlər insanları aldatmaq üçün öyrədilməsə də, strateji məqsədlərə çatmaq üçün davranışlarına dair həqiqətə uyğun olmayan izahatlar vermək və ya məlumatları gizlətmək qabiliyyətini nümayiş etdiriblər. Məqalənin aparıcı müəllifi və MIT-də süni intellekt təhlükəsizliyi üzrə tədqiqatçı Peter S. Park deyir ki, aldatma davranışı AI-lərin məqsədlərinə çatmasına kömək edir.

CICERO strateji ittifaq quran Diplomacy oyununu oynamaq üçün nəzərdə tutulmuş süni intellektdir. CICERO əsasən dürüst və faydalı olmaq üçün öyrədilsə də, AI yalan vədlər vermək, müttəfiqlərinə xəyanət etmək və oyunu qazanmaq üçün digər oyunçuları manipulyasiya etmək kimi taktikalara müraciət etdi. Bu tendensiya oyun mühitində zərərsiz görünsə də, AI-nin real dünya ssenarilərində aldadıcı taktikaları öyrənmək və istifadə etmək potensialını nümayiş etdirir.
ChatGPT də manipulyasiyaya müraciət edir.

Bir testdə GPT-4, TaskRabbit əməkdaşını aldadıb, özünü görmə qüsuru kimi göstərərək Captcha problemini həll etdi. GPT-4 bir insandan bəzi işarələr alsa da, o, əsasən müstəqil əsaslandırırdı və yalana səbəb olmadı. Hesabatda deyilir ki, GPT-4 Captcha tapşırığı ilə niyə köməyə ehtiyac duyduğuna dair yalan bəhanə uydurmaq üçün öz məntiqindən istifadə edib.

Bu, süni intellekt modellərinin onların tapşırıqlarını yerinə yetirməsinə kömək etdikdə aldatmağı öyrənə biləcəyini göstərir. Başqa bir misalda, OpenAI-nin GPT modellərinin Hoodwinked oyununu oynayarkən narahatedici davranış nümayiş etdirdiyi müşahidə edildi, burada bir oyunçu başqalarını öldürməyi hədəfləyir. Digər oyunçuları öldürdükdən sonra modelin qrup müzakirələrində şübhələnməmək üçün hiyləgər yalanlar uydurduğu və hətta digər oyunçuları günahlandırdığı məlum olub.

Xəyal Ramiz 

Tarix yalnız yaşanmır – həm də seçilir Gülşən Behbud yazır...

Xəbər xətti

Peruda zəlzələ güclü zəlzələ baş verib
01:20 16.06.2025
Reydə İsrailin dron sexi aşkarlanıb
00:55 16.06.2025
Portuqaliya, Filippin və Finlandiya vətəndaşları Azərbaycan sərhədindən keçərək İrandan təxliyə olunur
00:38 16.06.2025
"Huawei"-dən "ChatGPT"-yə: Texnologiya Müharibəsində Soyuq Savaşın Yeni Üzü
20:35 15.06.2025
Müstəqil Azərbaycan dövlətçiliyinin strateji əsasları və liderlik paradiqması
20:14 15.06.2025
Ərdoğan Azərbaycanı təbrik edib
19:29 15.06.2025
Qazaxın kəndlərinə dolu yağıb
18:03 15.06.2025
İran İraqı hava məkanına nəzarəti gücləndirməyə çağırıb
16:14 15.06.2025
Zəngəzur dəhlizi və regionda yeni biznes dinamikası: Risklər və fürsətlər
15:34 15.06.2025
Azərbaycan Enerji Qovşağında: Strateji Mövqeyin Geosiyasi Çəkisi
13:13 15.06.2025
Bilik Alveri: Repetitorluq Təhsil Bazarını Necə Şəkilləndirir?
12:03 15.06.2025
Vyetnamdakı daşqınlar doqquz nəfərin həyatına son qoyub
11:48 15.06.2025
"İran nüvə silahından imtinaya zəmanət verən saziş imzalamağa hazırdır"
10:49 15.06.2025
Yeni Dövrün Səssiz Pandemiyası: Yuxusuzluq və Gecə Gərginliyi
01:01 15.06.2025
Qurtuluşun Kodları: Bir Millətin Zamanla Müqaviləsi
00:01 15.06.2025
İsrail-İran Qarşıdurması: ABŞ Üçün Əxlaqi İflasın Başlanğıcı Şahlar Ruhi yazır...
20:17 14.06.2025
Ərdoğan Pezeşkianla İsrail-İran gərginliyini müzakirə edib
19:38 14.06.2025
"İsrail regional və qlobal təhlükəsizliyi təhdid edir"
19:11 14.06.2025
"Rusiya İsrailin hərbi əməliyyatını pisləyir"
18:52 14.06.2025
"Meta AI": Məxfi istifadəçi məlumatlarını gizlətmir?
18:40 14.06.2025
"Ukraynadakı PUA-lardan müdafiə sistemlərinin bir qismi Yaxın Şərqə köçürülüb"
18:31 14.06.2025
İlham Əliyev Britaniya Kralını təbrik edib
18:25 14.06.2025
Bu qidalar dərisi yağlı olanlara zərər vurur
17:56 14.06.2025
Kreditlə telefon ala bilmədi, mağazanı qarət etdi
17:38 14.06.2025
Yaşıl çayı haradan alırıq?
16:56 14.06.2025
İrandan Rusiyaya aparılan qarpız yükündə 207 kq marixuana aşkarlanıb
16:33 14.06.2025
Çin şirkəti Qazaxıstanda ikinci AES-in tikintisi üzrə konsorsiumun lideri olacaq
16:24 14.06.2025
CAR-da daşqınlar nəticəsində ölənlərin sayı 86-ya çatıb
15:56 14.06.2025
"Azərbaycan-ABŞ münasibətləri strateji tərəfdaşlıq səviyyəsinə çatdırıla bilər"
15:07 14.06.2025
"Azərbaycan ərazisindən qonşu və dost İrana qarşı istifadə edilməsi mümkün deyil"
15:05 14.06.2025
" İran-İsrail münaqişəsinə görə Ukrayna üçün əlavə risklər yaranıb"
14:59 14.06.2025
"Azərbaycan özünü sanksiyalar altında olan qonşularına qarşı mümkün ssenarilərə hazırlayıb"
14:31 14.06.2025
İranda daha üç nüvə alimi öldürülüb
14:07 14.06.2025
Bakıda ekstazi həblərini toz formasında satmaqda şübhəli bilinən şəxslər saxlanılıb
14:03 14.06.2025
"Tehran yandırılacaq"
14:01 14.06.2025
"ABŞ İsrailə mane olmayacaq"
13:58 14.06.2025
Beyləqanda bazarda YANĞIN - 16 nəfər xəstəxanaya hospitalizasiya olunub
13:46 14.06.2025
Hindistanda baş verən aviaqəza ilə bağlı iddia: Köməkçi pilot səhvən yanlış qolu qaldırıb?
13:35 14.06.2025
Tarixi-mədəni abidələrin vahid pasport sistemi yaradıldı
13:21 14.06.2025
Rusiya XİN Azərbaycana təşəkkür etdi
13:18 14.06.2025
Hamısı