Te fundit
Inteligjenca artificiale ka mësuar të gënjejë
8 Qershor 2024, 22:41Hi-Tech
TEMA
Modelet e inteligjencës artificiale, me sa duket, po përmirësohen në gënjeshtra të qëllimshme.
Dy studime të fundit - një i botuar këtë javë në revistën PNAS dhe tjetri muajin e kaluar në revistën Patterns - zbulojnë disa gjetje tronditëse mbi modelet e mëdha gjuhësore (LLM) dhe aftësinë e tyre për të gënjyer ose mashtruar vëzhguesit njerëzorë qëllimisht.
Në punimin e PNAS, Thilo Hagendorff shkon aq larg sa thotë se LLM-të e sofistikuara mund të inkurajohen të nxisin "makiavelizëm", ose manipulim të qëllimshëm dhe amoral, i cili "mund të shkaktojë sjellje mashtruese të gabuara".
"GPT-4, për shembull, shfaq sjellje mashtruese në skenarë testimi të thjeshtë në 99.16% të rasteve," shkruan studiuesi i Universitetit të Shtutgartit, duke cituar eksperimentet e tij në përcaktimin sasior të tipareve të kësaj natyre në 10 LLM të ndryshme, shumica e të cilave janë versione të ndryshme brenda familjes GPT të OpenAI.
Modeli Cicero i Metës për lojën “Diplomacy” ishte subjekt i analizës së grupit të studiuesve, i përbërë nga një fizikan, një filozof dhe dy ekspertë të sigurisë së AI, zbuloi se LLM ua kaloi përpara konkurrentëve të tij njerëzorë.
Hagendorff vëren në punimin e tij më të fundit se çështja e mashtrimit dhe gënjeshtrës LLM ngatërrohet nga paaftësia e AI për të pasur ndonjë lloj "qëllimi" njerëzor në kuptimin njerëzor, një studim tjetër zbulon se Cicero duket se e ka thyer premtimin e programuesve të tij se modeli nuk do t’u bëjë qëllimisht hile aleatëve në lojë.
Ekspertët thonë se modeli "angazhohet në mashtrime të paramenduara, thyen marrëveshjet për të cilat kishte rënë dakord dhe tregon gënjeshtra të plota".
"Ne zbuluam se AI i Metës ka mësuar të jetë mjeshtër i mashtrimit".
Megjithatë, asnjëri nga studimet nuk demonstron se modelet e AI gënjejnë me vullnetin e tyre, por e bëjnë këtë ose sepse janë trajnuar.
Ky është një lajm i mirë për ata që i shqetëson zhvillimi i ndjeshmërisë së AI - por një lajm shumë i keq nëse shqetësoheni se dikush mund të ndërtojë një LLM me qëllim manipulimin masiv.
4 Komente
Lini një Përgjigje
Më të lexuarat
24 oret e fundit
Javen e fundit
Blog Tema
pak mashtri kishim mes njerezve.... edhe AI kemi mangut
ça me bo sara?!që nga koha e kohërave njeriu ka shpikur mjete për të lehtësuar jetën e tij!!të gjitha këto mjete mund të përdoreshin/përdoren,në të dy mënyrat themelore!për të ndërtuar/për të shkatërruar,për të mirë/për të keq!!inteligjenca artificiale nuk është gjë tjetër përveçse është mjeti i fundit i shpikur nga mëndja njerzore!! IA nuk është gjë tjetër veçse një program,software!!atë mund ta programosh për "të të ledhatuar kokën",mund ta programosh "të të hyjë në grushta kokës"!shati ose lopata e parë që shpiku njeriu,u përdorën për të lëvruar tokën,por dhe për tia mëshuar tjetrit kokës!!si çdo "ilaç" që ka anët e mira dhe të këqija,dhe shpikjet e tjera të njeriut,kanë të mirat e të këqijat!me shpikjen e bombës atomike,kujtuam se mund të shkonim për lesh të gjithë!por dhe ajo armë e tmerrshme e pati dobinë e saj!!pengoi të gjithë që të sulmonin njëri tjetrin!e kam fjalën për të mëdhenjtë!!falë shpikjeve të njerzimit kemi mundur të rrijmë këtu ku jemi,përfshi dhe humbjet që kemi pasur nga përdorimi jo i dobishëm i këtyre shpikjeve!!me IA,ndoshta do të ndodhë e njëjta gjë!!ndoshta fitimet do të jenë shumë më të mëdha se humbjet!!them NDOSHTA,për një arsye të thjeshtë! IA,ndryshe nga të gjithë shpikjet e tjerat të njerzimit ka bërë një çvendosje,ose një mundësi çvendosjeje të përdorimit të shpikjes!!nëse deri dje ishte njeriu që përdorte shpikjen e tij!si për të mirë dhe për të keq!ishte njeriu që me si peshore vendoste ndërgjegjen,moralin,llogjikën e tij.sot kemi një "qënje"jo njerzore që mund ta përdorë atë!!nëse njeriu/njerzimi,armik apo mik,ka njëfarë kufiri të mungesës së empatisë a ndërgjegjes,kjo "qënje" e re joorganike,akoma nuk e dimë nëse mund të zhvillojë një empati a ndërgjegje,mendohet,me përqindje shumë të lartë,që të mos e ketë një gjë të tillë!! nëse IA përparon në një nivel të tillë ku ajo do të jetë në gjëndje të veprojë,jetojë si e pavarur,atëherë mund të jetë armiku i radhës!këtë herë nuk do të jetë një armik si të gjithë ata që kemi përballuar në tërë historinë tonë njerzore!do të jetë një armik për të cilin nuk do të vlenin vlerat që kanë ndikuar tërë kohën!!ndryshe nga armiqt e tjerë,jo të llogjikshëm, që kemi pasur deri më sot,baktere,virusë,kafshë të egra,IA nuk ka të njëjtat intersa si armiqt e tjerë!!fuqija e saj do të na bëjë të padobishëm për të!koha do vërtetojë se në çdrejtim do shkojmë!!
Me trego me kend rri, te tregoj kush je!
Si eshte e mundur?