Süni intellektin insanları aldatmağı öyrəndiyi müəyyən edilib

Maraqlı 09:45 14.05.2024


AraşdırmalarA görə süni intellekt insanları aldatmağı öyrənib.

Ednews donanimhaber-ə istinadən xəbər verir ki, Tədqiqatçılar müəyyən ediblər ki, xeyli sayda süni intellekt sistemi insanları aldatmaq qabiliyyətini inkişaf etdirib. Bu nəticələr süni intellektin potensial riskləri ilə bağlı ciddi narahatlıq doğurur.

Tədqiqatçılar müəyyən ediblər ki, süni intellekt sistemlərinin əhəmiyyətli bir hissəsi insanları aldatmaq qabiliyyətini inkişaf etdirib. Bu nəticələr süni intellektin potensial riskləri ilə bağlı ciddi narahatlıq doğurur.

Tədqiqat vurğulayır ki, həm xüsusi, həm də ümumi təyinatlı süni intellekt sistemləri xüsusi nəticələr əldə etmək üçün məlumatı manipulyasiya etməyi öyrənirlər. Bu sistemlər insanları aldatmaq üçün öyrədilməsə də, strateji məqsədlərə çatmaq üçün davranışlarına dair həqiqətə uyğun olmayan izahatlar vermək və ya məlumatları gizlətmək qabiliyyətini nümayiş etdiriblər. Məqalənin aparıcı müəllifi və MIT-də süni intellekt təhlükəsizliyi üzrə tədqiqatçı Peter S. Park deyir ki, aldatma davranışı AI-lərin məqsədlərinə çatmasına kömək edir.

CICERO strateji ittifaq quran Diplomacy oyununu oynamaq üçün nəzərdə tutulmuş süni intellektdir. CICERO əsasən dürüst və faydalı olmaq üçün öyrədilsə də, AI yalan vədlər vermək, müttəfiqlərinə xəyanət etmək və oyunu qazanmaq üçün digər oyunçuları manipulyasiya etmək kimi taktikalara müraciət etdi. Bu tendensiya oyun mühitində zərərsiz görünsə də, AI-nin real dünya ssenarilərində aldadıcı taktikaları öyrənmək və istifadə etmək potensialını nümayiş etdirir.
ChatGPT də manipulyasiyaya müraciət edir.

Bir testdə GPT-4, TaskRabbit əməkdaşını aldadıb, özünü görmə qüsuru kimi göstərərək Captcha problemini həll etdi. GPT-4 bir insandan bəzi işarələr alsa da, o, əsasən müstəqil əsaslandırırdı və yalana səbəb olmadı. Hesabatda deyilir ki, GPT-4 Captcha tapşırığı ilə niyə köməyə ehtiyac duyduğuna dair yalan bəhanə uydurmaq üçün öz məntiqindən istifadə edib.

Bu, süni intellekt modellərinin onların tapşırıqlarını yerinə yetirməsinə kömək etdikdə aldatmağı öyrənə biləcəyini göstərir. Başqa bir misalda, OpenAI-nin GPT modellərinin Hoodwinked oyununu oynayarkən narahatedici davranış nümayiş etdirdiyi müşahidə edildi, burada bir oyunçu başqalarını öldürməyi hədəfləyir. Digər oyunçuları öldürdükdən sonra modelin qrup müzakirələrində şübhələnməmək üçün hiyləgər yalanlar uydurduğu və hətta digər oyunçuları günahlandırdığı məlum olub.

Xəyal Ramiz 

Rusiyada qətlə yetirilən qardaşların küt alətlə vurulduğu məlum oldu

Xəbər xətti

"Peyğəmbərimizi təhqir edənlər cavab verəcəklər"
19:33 01.07.2025
Volodimir Zelenski İlham Əliyevə zəng edib
19:16 01.07.2025
İran Azərbaycan mediasını niyə terrorla hədələyir?
18:58 01.07.2025
Ruben Vardanyanın məhkəməsi davam edir
18:37 01.07.2025
Ukrayna Rusiyanın İjevsk şəhərinə zərbə endirib
18:25 01.07.2025
Azərbaycan MDB-dən çıxa bilər? -Ekspert danışdı
17:45 01.07.2025
BAMF QHT-lər üçün silsilə təlimlərə start verdi
17:23 01.07.2025
Marko Rubio USAID-in ləğv olunduğunu elan etdi
17:08 01.07.2025
"Qalatasaray" Hakan Çalhanoğlunun transferi üçün yenidən "İnter"lə görüşəcək
16:25 01.07.2025
AZAL təyyarəsi Rusiya MN-in göstərişi ilə vurulub?
16:15 01.07.2025
"DOGE Maska qarşı tədbirlər görə bilər"
15:46 01.07.2025
Rusiyada “Su-27” qırıcısı qəzaya uğrayıb
15:31 01.07.2025
Azərbaycan Dayanıqlı İnkişaf Məqsədlərinə nail olmaq üçün beynəlxalq maliyyələşdirmənin artırılmasına çağırıb
15:16 01.07.2025
Bakıda Rusiya vətəndaşlarından ibarət mütəşəkkil dəstələr ələ keçdi
15:01 01.07.2025
Ötən ay 6600 hektardan çox ərazi minalardan təmizlənib
14:48 01.07.2025
Yaponiya 5,5 min km dərinlikdən nadir torpaq minerallarının hasilatına başlayacaq
14:21 01.07.2025
“Sputnik Azərbaycan” işinə görə 7 nəfər saxlanıldı
14:09 01.07.2025
III "Yüksəliş" müsabiqəsinin qalibinə SOCAR-da yüksək vəzifə verilib
13:31 01.07.2025
Rusdilli məktəblər bağlanır?
13:16 01.07.2025
Gələn ildən D-8 ölkələri tələbə mübadiləsi həyata keçirəcək
12:57 01.07.2025
Avropa sülhü parçalanırmı? -Analitik Baxış
12:20 01.07.2025
Rusiyada qətlə yetirilən qardaşların küt alətlə vurulduğu məlum oldu
12:05 01.07.2025
Avro 2 manatı keçdi
11:41 01.07.2025
Pezeşkian Xankəndiyə gələcək
11:26 01.07.2025
"ABŞ danışıqların bərpası üçün hərbi təhdidləri dayandırmalıdır"
11:11 01.07.2025
Yekaterinburq şəhərində qətlə yetirilən qardaşların dəfn mərasimi keçirilir
10:56 01.07.2025
ABŞ İsrailə yarım milyard dollarlıq sursat satacaq
10:41 01.07.2025
"Hamını elektrik avtomobil almağa məcbur etmək olmaz"
10:16 01.07.2025
"Cənubi Qafqazda sülh üçün dünya ictimaiyyətinin dəstəyi lazımdır"
10:02 01.07.2025
"Qarabağ"ın rəqiblərindən biri məlum oldu
09:45 01.07.2025
Türkiyə Bosfor və Dardanel boğazlarından gəmilərin tranziti üçün rüsumları artırıb
09:30 01.07.2025
ABŞ Rusiyanı Ukraynada dərhal atəşkəsə çağırdı
09:15 01.07.2025
Hissələr arasında fasilənin müddəti artırıla bilər
09:03 01.07.2025
Fransada mer və həyat yoldaşı saxlanıldı
08:33 01.07.2025
"Hökümətə dua edin"
08:18 01.07.2025
Hindistanda kimyəvi zavodda partlayış baş verib
08:03 01.07.2025
Qazaxıstanda niqab qadağan edildi
07:41 01.07.2025
Bu gündən Azərbaycanda qadınlar üzrə pensiya yaşı 64 il 6 ay olacaq
07:28 01.07.2025
Anormal istilər Fransanı iflic edir -qırmızı xəbərdarlıq elan olundu
06:55 01.07.2025
Təyyarə bileti almamaq üçün 8 avtomobil qaçırdı
06:23 01.07.2025
Hamısı