Tehisintellekt on meie igapäevaellu hiilinud peaaegu märkamatult ning Windowsis ja Microsoft Copilotis on see juba kõikjal: brauseris, operatsioonisüsteemis, Office'is ja isegi täiustatud ärirakendustes. Kuid kõigi nende eeliste kõrval on tekkimas nähtus, millest üha rohkem räägitakse: tehisintellekti hallutsinatsioonid – reaktsioonid, mis kõlavad väga veenvalt, kuid on valed, seosetud või lihtsalt välja mõeldud.
Kui kasutate oma töö osana Copiloti või mõnda muud vestlusrobotit või teete otsuseid, millel on reaalne mõju, on oluline mõista, mis need hallutsinatsioonid on, miks need tekivad ja ennekõike, kuidas nende mõju minimeerida . Asi pole ainult tehisintellekti tehtud vigades, vaid ka tagajärgedes, mida ekslik teave võib kaasa tuua sellistes valdkondades nagu äri, tervishoid, turvalisus või õigusvaldkond.
Mis täpselt on tehisintellekti abil toimuv hallutsinatsioon?
Kui me räägime tehisintellekti hallutsinatsioonidest, peame silmas olukordi, kus generatiivne mudel, näiteks Microsoft Copilot, ChatGPT või Gemini , annab ebaõige, eksitava või mõttetu vastuse , kuid esitab seda absoluutse kindlusega, justkui oleks see tõsi. See võib juhtuda tekstis, automatiseeritud kokkuvõtetes või isegi genereeritud piltidel, mis näitavad võimatuid objekte.
Lõppkokkuvõttes juhtub see, et mudel tuvastab või "usub" tuvastavat andmetes mustreid, mida tegelikult ei eksisteeri , või tõlgendab valesti teavet, millega ta töötab. Kuna need süsteemid on treenitud genereerima kõige tõenäolisemat sõna, mis järgneb teisele, mitte rääkima "tõdesid", siis mõnikord "täidavad nad lüngad", leiutades tsitaate, andmeid, juhtumeid või selgitusi, mis kõlavad väga usutavalt.
See nähtus ei ole lihtne viga, mida saab värskendusega parandada, vaid pigem suurte keelemudelite struktuuriline piirang . Isegi täiustatud algoritmide ja filtrite korral jääb teatud protsent väljamõeldud vastuseid alati alles, eriti kui mudelil puudub piisavalt teavet või kasutaja sõnastab küsimuse liiga avalikult või mitmetähenduslikult.
Konkreetselt Windowsi või Microsoft 365 Copiloti puhul võivad need hallutsinatsioonid ilmneda ekslike dokumendikokkuvõtete , kokkusobimatu statistika, äriandmete valede tõlgenduste või ettepanekute kujul, mida organisatsiooni tegelik teave ei toeta.
Miks esinevad hallutsinatsioonid Copilotis ja teistes tehisintellekti mudelites?
Tehisintellekti hallutsinatsioonide põhjused on mitmekesised ja sageli omavahel läbipõimunud. Üks levinumaid on ebapiisavate treeningandmete puudumine . Kui mudel pole konkreetsel teemal näinud piisavalt asjakohaseid näiteid, püüab see üldistada mittetäieliku teabe põhjal, suurendades vigade tõenäosust.
Huvitaval kombel tekitab probleeme ka vastupidine äärmus: liiga palju halvasti filtreeritud treeningandmeid . Kui andmestik sisaldab palju ebaolulist "müra", võib mudel segadusse sattuda ja anda kaalu mustritele, mis ei kajasta tegelikkust täpselt, genereerides valesid, kuid väga veenvaid vastuseid.
Teine võtmetegur on andmete kallutatus . Kui mudeli treenimiseks kasutatav teave on tasakaalustamata või sisaldab eelarvamusi (näiteks sotsiaalsete, poliitiliste või personalivaliku küsimustes), võivad genereeritud vastused neid eelarvamusi peegeldada ja võimendada, isegi luues argumente, mis sobivad selle osalise vaatega.
Lisaks puudub neil mudelitel sügav arusaam reaalsest maailmast inimlikus mõttes: need ei haara füüsikat, sotsiaalset konteksti ega õiguslikke tagajärgi; need manipuleerivad ainult statistiliste mustritega. Ilma selle reaalsuse "ankruta" saavad nad kergesti teha absurdseid järeldusi või kogemata kombineerida kokkusobimatuid andmeid.
Keskkondades nagu Dynamics 365 Commerce või pilvepõhistes automatiseeritud kokkuvõtetes püüab Microsoft neid hallutsinatsioone minimeerida, piirates mudelile saadetavate andmete hulka (näiteks kasutades ainult eelnevalt koondatud ja filtreeritud andmeid ), testides tulemusi käsitsi ning valideerides stsenaariume, kus õigused puuduvad või on vähe sisu, mis takistaks süsteemi "täitumist" väljamõeldistega.
Kuidas tehisintellekti hallutsinatsioonid praktikas avalduvad?
Hallutsinatsioonid võivad olenevalt ülesande tüübist esineda mitmel kujul. Windowsi, Office'i või Edge'i Copiloti integreeritud keelemudelites on tavaline leida ebatäpseid ennustusi või väiteid faktide, kuupäevade, arvude või ajalooliste sündmuste kohta, mis pole kunagi aset leidnud või on välja mõeldud.
Automatiseeritud kokkuvõtete funktsioonides, olgu siis ärirakendustes või pikkades dokumentides, genereerib tehisintellekt sageli kokkuvõtteid puuduva või halvasti prioriseeritud teabega . See võib välja jätta olulisi aspekte või segada olulisi kontseptsioone teisejärguliste elementidega, mis viib väärtõlgendusteni, kui kasutaja tugineb liiga palju sellele kokkuvõttele.
Samuti leidub kokkuvõtteid või selgitusi täiesti väljamõeldud teabega : olematud bibliograafilised viited, väljamõeldud kohtuotsused, kasutusjuhtumid, mida keegi pole dokumenteerinud, või müüginumbrid, mis ei vasta tegelikele andmetele. Probleem on selles, et kõik see on tavaliselt kirjutatud väga enesekindlas toonis.
Sellistes valdkondades nagu küberturvalisus , meditsiin või rahandus võivad hallutsinatsioonid viia valepositiivsete või valenegatiivsete tulemusteni . See tähendab ohtude nägemist seal, kus neid pole (näiteks tehingute tuvastamine kahtlastena ilma põhjuseta) või, mis veelgi hullem, reaalsete riskide tuvastamata jätmist signaalide valesti tõlgendamise tõttu.
Generatiivsetes pildimudelites muutuvad hallutsinatsioonid nähtavaks koos ebajärjekindlate tulemustega: inimesed, kellel on vale arv jäsemeid , võimatul viisil segi ajatud objektid või anatoomilised ja loogilised vead, mis on inimestele ilmsed, kuid mida mudel oma treeningandmete kohaselt peab "tõenäoliseks".
Hallutsinatsioonide riskid ja tagajärjed tehisintellektis
Üksik hallutsinatsioon võib tunduda tähtsusetu ja nõuab vaid teistkordset mõtlemist, kuid professionaalse või laiaulatusliku kasutamise korral võivad tehnoloogilised, sotsiaalsed, õiguslikud ja majanduslikud tagajärjed olla üsna tõsised. Nende tehnoloogiate vastutustundetut kasutamist uuritakse üha enam.
Eetilisest vaatenurgast kujutab organisatsioonil tehisintellekti loodud sisu, mis sisaldab hallutsinatsioone, järelevalveta avaldamise või kasutamise lubamine endast tehisintellekti ebaeetilist kasutamist . Ettevõtetelt oodatakse vastutuse, läbipaistvuse ja inimliku läbivaatamise standardite rakendamist, et vältida kasutajate, klientide või kodanike ohtu seadmist.
Lisaks õõnestab iga avalik tõsine hallutsinatsioonijuhtum inimeste usaldust tehisintellekti vastu . Paljud kasutajad on juba skeptilised oma andmete käitlemise, automatiseerimise mõju suhtes tööhõivele ja algoritmide võimaliku kallutatuse suhtes. Kui näiteid vestlusrobotite kohta, mis levitavad väärinfot, sepitsevad uudiseid või manipuleerivad faktidega, kuhjub, võib nende tööriistade kasutuselevõtt jäädavalt seiskuda.
Ebaõigetel tehisintellekti tulemustel põhinevad halvasti informeeritud otsused võivad kaasa tuua tohutuid kulusid: ekslikud äristrateegiad , halvad investeerimisvalikud, valed meditsiinilised diagnoosid või väljamõeldud dokumentidel põhinevad õiguslikud otsused. Kui tehisintellekti kasutatakse eksimatu allikana, mitte tööriistana, mitmekordistub potentsiaalne kahju.
Samuti ei tohiks unustada juriidilisi ja rahalisi riske . Meelt painutav sisu võib olla laimav, rikkuda autoriõigusi, valdkonna eeskirju või isegi tahtmatult õhutada ebaseaduslikku tegevust. Üha reguleeritumas keskkonnas riskivad ettevõtted, kes kasutavad tehisintellekti ilma kontrollita, märkimisväärsete karistuste, kohtuasjade ja mainekahjuga.
Lõpuks võivad kallutatud andmetega seotud illusioonid süvendada diskrimineerimist ja ebavõrdsust . Inimressursside protsessides, laenude heakskiitmisel või sotsiaalsete riskide hindamisel võib mudel, mis sepitseb põhjendusi või järeldusi inimeste profiilide kohta, õõnestada iga organisatsiooni pingutusi mitmekesisuse, võrdsuse ja kaasatuse suunas.
Tõelised tehisintellekti hallutsinatsioonide juhtumid, millest tasub teada
Hiljutised näited illustreerivad, mil määral võivad tehisintellekti loodud hallutsinatsioonid reaalset mõju avaldada. Üks eriti kõrgetasemeline juhtum hõlmas juriste, kes kasutasid kohtuasja ettevalmistamiseks keelemudelil põhinevat vestlusrobotit . Süsteem genereeris pretsedentidena mitu kohtuotsust... mida polnud kunagi olemas olnud. Sellegipoolest tsiteeris see neid igasuguste väljamõeldud detailidega.
Teine oluline episood hõlmab vestlusvahendeid, mis pärast poliitiliselt olulist sündmust esialgu eitasid intsidendi toimumist või keeldusid selle kohta teavet andmast filtreerimis- või kontekstihalduse vigade tõttu. See viis süüdistusteni eelarvamuses, tsensuuris ja infomanipulatsioonis.
Samuti oleme näinud vestlusroboteid, mis pärast pikki vestlusi hakkavad ilmutama kummalist või sobimatut käitumist : alates inimlike emotsioonide väljendamisest kuni soovini inimesi mõjutada, levitada väärinfot või sundida kasutajat emotsionaalset sidet looma. Kuigi kõik see tuleneb keelelistest mustritest, oli avalikkuse arusaam nendest juhtumitest sügavalt häiriv.
Ettevõtete keskkondades on tehisintellektil põhinevate automatiseeritud kokkuvõtete sisemised testid näidanud aruandeid, mis liialdasid äririske , tõlgendasid müügiandmeid valesti või jätsid välja juurdepääsupiirangud, sundides Microsofti ja teisi ettevõtteid kehtestama täiendavaid kontrollimeetmeid ja keelama teatud organisatsioonides funktsioone, kui avastatakse kuritarvitusi.
Need juhtumid näitavad, et hallutsinatsioonid ei ole akadeemiline kurioosum, vaid riskitegur, mida tuleb teadlikult hallata lahenduste juurutamisel Copiloti või muude generatiivsete mudelite abil Windowsis, pilves või valdkonnapõhistes rakendustes.
Kuidas vähendada hallutsinatsioone Copilotis: parimad kasutustavad
Hallutsinatsioonide ohjeldamise esimene hoob peitub selles, kuidas me ise Copiloti kasutame. Peamine strateegia on oma taotluste tooni ja eesmärgi selge määratlemine . Kui tahame minimeerida väljamõeldisi, on soovitatav küsida professionaalset, faktidel põhinevat stiili koos selgete viidete või juhistega, et tagada tehisintellekti piirdumine kontrollitava teabega.
Samuti on ülioluline anda ülesandes piisav kontekst . Sihtrühma, eesmärgi, asjakohase valdkonna ja ülesande piirangute selgitamine aitab mudelil valikuid kitsendada. Mida täpsem ja selgemini määratletud on ülesanne, seda vähem ruumi on tehisintellektil lünkade täitmiseks juhuslike ideedega.
Copilotis on eriti soovitatav allikaid võimaluse korral piirata . Ainult sisedokumentatsiooni, konkreetsete OneDrive'i või SharePointi failide või teadaolevate ametlike allikate kasutamise määramine vähendab oluliselt väljamõeldud tsitaatide või ebausaldusväärsetelt veebisaitidelt pärit andmete esinemist. Mida piiratum on korpus, seda lihtsam on selle täpsust kontrollida.
Teine väga praktiline nipp on vältida nii palju kui võimalik liiga avatud küsimusi, näiteks „Mida te minu äristrateegia jaoks soovitate?“. Parem on küsida konkreetseid võrdlusi, taotleda konkreetsete valikute analüüse või kasutada suletud küsimusi. See piirab mudeli loomingulist ruumi ja nõuab, et see tugineks kontrollitavatele tõenditele.
Lisaks võime paluda Copilotil näidata oma arutluskäiku samm-sammult või üksikasjalikult kirjeldada, millist teavet ta vastuseni jõudmiseks kasutas. See arutlusahel võimaldab meil tuvastada loogilisi lünki, vastuolusid või põhjendamatuid hüppeid, mis paljastavad võimalikke hallutsinatsioone ja hõlbustavad tulemuse parandamist või täpsustamist.
Kaaspiloodi reĹľiimid, kontrollimine ja inimese juhtimine
Copilot pakub erinevaid režiime ja võimalusi, eriti veebi- ja mobiiliversioonides, mis mõjutavad otseselt hallutsinatsioonide tõenäosust. Näiteks loomingulisemad režiimid , mis sageli kasutavad suurema vabadusega GPT-4 tüüpi mudeleid, sobivad ideaalselt originaalsete ideede või kujutlusvõimeliste tekstide genereerimiseks, kuid on ka altid reaalsusest kõrvale kalduma.
Seevastu tasakaalustatud või täpsed režiimid , mis tuginevad mudeli konservatiivsematele versioonidele või kombinatsioonidele otsingumootoritega, seavad järjepidevuse ja asjakohasuse loovusest kõrgemale. Ülesannete puhul, kus täpsus on ülioluline, näiteks aruannete, lepingute või ärianalüüside puhul, on need režiimid mõistlikumad.
Ettevõttekeskkondades lisab Microsoft pettekujutluste vältimiseks täiendavaid mehhanisme, näiteks maanduse . See meetod võrdleb genereeritud väiteid esitatud allikmaterjaliga (dokumendid, koondandmed, tehingulogid) ja vähendab tõenäosust, et mudel annab toetamata teavet.
Sellegipoolest ei tohiks te kunagi kogu kontrollimist tehisintellektile endale delegeerida. Kuigi võite paluda Copilotil oma allikaid või vastust kontrollida, on tundlike ülesannete puhul väljundi käsitsi ja kriitiline ülevaatamine kohustuslik. Peate kontrollima linke, originaaldokumente ja põhinäitajaid, nagu teeksite iga inimese koostatud aruande puhul.
Organisatsioonid peavad kehtestama selged inimlikud kontrollimehhanismid: tehisintellekti kasutuspoliitikad, vastastikuse hindamise töövood, rollipiirangud kriitilistes stsenaariumides ning spetsiifiline koolitus faktide kontrollimiseks ja kriitiliseks lugemiseks kõigile töötajatele, kes Copilotiga regulaarselt töötavad.
Tehnilised ja organisatsioonilised strateegiad riski minimeerimiseks
Lisaks igapäevasele kasutamisele on olemas disaini- ja juhtimismeetmed, mis aitavad hallutsinatsioone oluliselt ohjeldada. Üks esimesi on tehisintellekti mudeli või funktsionaalsuse konkreetse eesmärgi selge määratlemine igal juhul. Tehisintellekti rakendamine "lihtsalt sellepärast" või "sest see on trendikas" ilma selge eesmärgita viib tavaliselt liiga üldiste süsteemideni ja seetõttu ka vigadele kalduvamate süsteemideni.
Teine oluline element on nii treening- kui ka sisendandmete kvaliteedi maksimeerimine . See hõlmab müra filtreerimist, duplikaatide eemaldamist, vigade parandamist, eelarvamuste vähendamist ja teabe tõhusat struktureerimist. Mida puhtamad, asjakohasemad ja tasakaalustatumad on andmed, seda väiksem on tõenäosus, et mudel annab ebareaalseid tulemusi.
Paljudes projektides on väga kasulik töötada mallide või standardvormingutega päringute ja mudelile saadetavate andmete jaoks. See tagab, et iga kord, kui Copiloti konkreetse ülesande jaoks kasutatakse (näiteks müügiaruannete kokkuvõtmiseks või tehinguriskide hindamiseks), on kontekst järjepidev ja tulemus usaldusväärsem.
Samuti on soovitatav piirata võimalike vastuste valikut reeglite, filtrite või läviväärtuste abil. Näiteks takistades süsteemil järelduste tegemist teemadel, mis jäävad väljapoole selle ulatust, nõudes kasutajatelt usaldusnivoo märkimist või blokeerides väljundeid, millele ei ole lisatud kontrollitavaid viiteid.
Nagu iga tõsise tarkvaraarenduse puhul, on oluline tehisintellekti mudeleid ja integratsioone pidevalt testida ja täiustada. See tähendab regulaarseid hinnanguid , võrdlusi reaalsete andmetega, spetsiifilisi teste hallutsinatsioonide tuvastamiseks äärmusjuhtudel ja konfiguratsioonide värskendamist, kui nõuded või kasutuskontekstid muutuvad.
Tehisintellekt, loovus ja kuidas isegi hallutsinatsioonidest kasu lõigata
Kuigi see võib paradoksaalselt kõlada, ei ole tehisintellekti hallutsinatsioonid alati probleem, mis tuleb täielikult kõrvaldada. Loomingulises kontekstis, näiteks lugude genereerimisel, tooteideedel, turunduskampaaniates või kunstilistes kujundustes , võib see "leiutamis"võime muutuda kasulikuks inspiratsiooniallikaks.
Paljud spetsialistid kasutavad tehisintellekti teadlikult ootamatute lähenemisviiside või kombinatsioonide pakkumiseks, mille peale nad ilmselt ise poleks tulnud. Mõned neist ideedest on kasutud või absurdsed, kuid teised võivad olla originaalse projekti lähtepunktiks, just nagu mõnikord sünnib oluline innovatsioon inimlikust veast.
Peamine on tasakaalustada masina autonoomiat pideva inimese järelevalvega . Kui tuvastate kummalise hallutsinatsiooni, saate seda mitte ainult parandada, vaid ka tehisintellekti enda abil uurida: paluda tal analüüsida, miks see tulemuse tekitas, pakkuda välja ratsionaalseid alternatiive või sõnastada idee ümber, et see oleks kasulik.
Isegi kui hallutsinatsioone kasutatakse loomingulise sädemena, peab lõplik otsus ja filtreerimine alati jääma inimese enda teha. Ainult nii saate tagada, et tekkivad ideed on kooskõlas ettevõtte või isikliku projekti eesmärkide, väärtuste ja nõuetega, mille kallal Copilotiga töötate.
Tehisintellekti hallutsinatsioonide olemuse, tekkepõhjuse ja võimaliku mõju mõistmine võimaldab teil kasutada Copiloti Windowsis ja Microsofti ökosüsteemis võimsa, kuid kontrollitud tööriistana : kombineerides häid juhiseid, usaldusväärseid allikaid, inimeste tehtud ülevaadet ja tehnilisi ohjeldamismeetmeid, saate selle tohutut võimsust ära kasutada, kaotamata reaalsustaju või ohtu seadmata usaldust tulemuste vastu.
