A bën ndonjë mirë ekspozimi dhe regjistrimi i atyre rezultateve të gabuara dhe halucinative të AI Generative ChatGPT, pyet Etikën e AI dhe Ligjin e AI

Ju jeni në një sekret.

Po, ka diçka që ndodh fshehurazi prapa skenave në lidhje me të fundit në AI, për të cilën mund të dëshironi të dini.

Në kolonën e sotme, unë do të shqyrtoj shtysën e fundit për të përpiluar gabime të supozuara dhe sëmundje të tjera që lidhen me esetë e nxjerra nga një aplikacion AI i njohur si ChatGPT. Ky aplikacion i veçantë po përdor një lloj AI të quajtur UA gjeneruese. Ju ndoshta keni dëgjuar ose parë tituj tërheqës për AI dhe ChatGPT me bazë gjeneruese. Lajmi është i keq për këtë aplikacion specifik të AI dhe aftësitë në dukje të habitshme që kanë të bëjnë me këtë lloj AI.

Siç do ta mbuloj brenda një momenti, disa besojnë fuqishëm se ne duhet të krijojmë një listë të llojeve të gabimeve ose gabimeve që aplikacioni i AI mund të prodhojë kur gjeneron një ese për ju. Të tjerë sugjerojnë se megjithëse nocioni i një liste të tillë është i admirueshëm, ai është një ushtrim kotësie dhe do të japë shumë pak fryte.

Ne do të shqyrtojmë të dyja anët e atij debati të egër.

Së pari, le të sigurohemi që jemi të gjithë në të njëjtën faqe në lidhje me atë nga që përbëhet Generative AI dhe gjithashtu se çfarë është ChatGPT.

ChatGPT është një sistem interaktiv i orientuar drejt bisedave me qëllime të përgjithshme AI, në thelb një chatbot i përgjithshëm në dukje i padëmshëm, megjithatë, ai po përdoret në mënyrë aktive dhe me dëshirë nga njerëzit në mënyra që po i kapin shumë njerëz krejtësisht të pakujdesshëm. Gjithçka që duhet të bëni për të përdorur këtë lloj AI është të futni një kërkesë dhe aplikacioni i AI do të gjenerojë për ju një ese që përpiqet t'i përgjigjet kërkesës suaj.

Fatkeqësisht, kjo mund të përdoret në mënyra disi joetike ose dinakare. Një shqetësim veçanërisht irritues është se studentët mund të përdorin një aplikacion AI të bazuar në gjenerator për të prodhuar esetë e tyre të caktuara për ta, duke e bërë këtë thjesht duke futur një ose dy fjali për ta çuar aplikacionin në drejtimin e duhur. Disa ankohen se kjo do të thotë se studentët do të zgjedhin të mashtrojnë kur shkruajnë ese jashtë klasës. Mësuesit po përpiqen të kuptojnë se çfarë të bëjnë, shikoni analizën dhe rekomandimet e mia në lidhja këtu.

Pavarësisht zhurmës së vazhdueshme të lavdërimeve të lavdërueshme për ChatGPT, ekziston një shqetësim më pak i njohur i shprehur kryesisht nga të brendshëm të AI se ka disa çështje dhe shqetësime të dukshme për të cilat njerëzit duhet të shqetësohen. Një dobësi thelbësore është se esetë e prodhuara nga ky aplikacion i AI mund të kenë të ngulitura gënjeshtra të ndryshme, duke përfshirë fakte të pavërteta, fakte që janë portretizuar në mënyrë mashtruese dhe fakte të dukshme që janë tërësisht të fabrikuara. Këto aspekte të fabrikuara shpesh quhen një formë e Halucinacionet e AI, një frazë tërheqëse që nuk më pëlqen, por me keqardhje duket se po fiton tërheqje popullore gjithsesi (për shpjegimin tim të detajuar se pse kjo është terminologji e keqe dhe e papërshtatshme, shihni mbulimin tim në lidhja këtu).

Do të doja të sqaroja një aspekt të rëndësishëm përpara se të futemi në thellësi të gjërave në këtë temë.

Ka pasur disa pretendime të çmendura të mëdha në mediat sociale rreth UA gjeneruese duke pohuar se ky version i fundit i AI është në fakt AI e ndjeshme (jo, ata e kanë gabim!). Ata në Etikën e AI dhe Ligjin e AI janë veçanërisht të shqetësuar për këtë trend në rritje të pretendimeve të përhapura. Ju mund të thoni me mirësjellje se disa njerëz po mbivlerësojnë atë që mund të bëjë në të vërtetë AI e sotme. Ata supozojnë se AI ka aftësi që ne ende nuk kemi arritur t'i arrijmë. Kjo është për të ardhur keq. Më keq akoma, ata mund t'i lejojnë vetes dhe të tjerëve të futen në situata të tmerrshme për shkak të supozimit se AI do të jetë i ndjeshëm ose i ngjashëm me njeriun në aftësinë për të ndërmarrë veprime.

Mos antropomorfizo AI.

Duke vepruar kështu, do t'ju kapni në një kurth të ngurtësisë dhe besimit të durueshëm të pritjes që AI të bëjë gjëra që nuk është në gjendje t'i kryejë. Me këtë u tha, më e fundit në AI gjeneruese është relativisht mbresëlënëse për atë që mund të bëjë. Sidoqoftë, kini parasysh se ka kufizime të rëndësishme që duhet t'i mbani parasysh vazhdimisht kur përdorni ndonjë aplikacion gjenerues të AI.

Nëse jeni të interesuar për rrëmujën që po zgjerohet me shpejtësi në lidhje me ChatGPT dhe Generative AI, unë kam bërë një seri të fokusuar në kolonën time që mund t'ju duket informative. Ja një vështrim në rast se ndonjë prej këtyre temave ju bie në sy:

• 1) Parashikimet e Përparimeve Gjenerative të AI. Nëse doni të dini se çfarë ka të ngjarë të shpaloset rreth AI gjatë 2023 dhe më tej, duke përfshirë përparimet e ardhshme në AI gjeneruese dhe ChatGPT, do të dëshironi të lexoni listën time gjithëpërfshirëse të parashikimeve të vitit 2023 në lidhja këtu.
• 2) Këshilla gjeneruese të AI dhe shëndetit mendor. Zgjodha të rishikoja se si AI gjeneruese dhe ChatGPT po përdoren për këshilla për shëndetin mendor, një trend i mundimshëm, sipas analizës sime të fokusuar në lidhja këtu.
• 3) Konteksti dhe përdorimi gjenerues i AI. Unë gjithashtu bëra një ekzaminim të gjuhës në faqe me shije sezonale rreth një konteksti të lidhur me Babadimrin që përfshin ChatGPT dhe AI ​​gjeneruese në lidhja këtu.
• 4) Mashtruesit që përdorin AI gjenerative. Në një shënim ogurzi, disa mashtrues kanë kuptuar se si të përdorin AI gjeneruese dhe ChatGPT për të bërë keqbërje, duke përfshirë gjenerimin e postës elektronike të mashtrimit dhe madje edhe prodhimin e kodit të programimit për malware, shikoni analizën time në lidhja këtu.
• 5) Gabimet fillestare duke përdorur AI gjeneruese. Shumë njerëz janë duke e tejkaluar dhe çuditërisht duke nënvlerësuar atë që mund të bëjnë AI gjeneruese dhe ChatGPT, kështu që unë shikova veçanërisht nën kontrollin që fillestarët e AI priren të bëjnë, shikoni diskutimin në lidhja këtu.
• 6) Përballimi i kërkesave gjeneruese të AI dhe halucinacioneve të AI. Unë përshkruaj një qasje më të avancuar për përdorimin e shtesave të AI për t'u marrë me çështjet e ndryshme që lidhen me përpjekjen për të futur kërkesa të përshtatshme në AI gjeneruese, plus ka shtesa shtesë të AI për zbulimin e të ashtuquajturave rezultate dhe false të halucinacioneve të AI, si mbuluar në lidhja këtu.
• 7) Heqja e pretendimeve të Bonehead në lidhje me zbulimin e eseve gjeneruese të prodhuara nga AI. Ekziston një nxitim i gabuar i arit i aplikacioneve të AI që shpallin se janë në gjendje të konstatojnë nëse ndonjë ese e caktuar ishte prodhuar nga njeriu në krahasim me AI. Në përgjithësi, kjo është mashtruese dhe në disa raste, një pretendim i kockave dhe i paqëndrueshëm, shihni mbulimin tim në lidhja këtu.
• 8) Luajtja e roleve nëpërmjet AI gjeneruese mund të sjellë mangësi të shëndetit mendor. Disa po përdorin AI gjeneruese si ChatGPT për të luajtur role, ku aplikacioni i AI i përgjigjet një njeriu sikur ekziston në një botë fantazie ose një mjedis tjetër të sajuar. Kjo mund të ketë pasoja në shëndetin mendor, shih lidhja këtu.

Le të diskutojmë tani thelbin e AI gjeneruese dhe ChatGPT në mënyrë që të njihni themelet e përfshira. Më pas do të jemi gati të hidhemi në një analizë hetuese të gënjeshtrave që këto aplikacione të AI mund të gjenerojnë potencialisht. Unë do të përfshij disa shembuj të përdorimit të ChatGPT, të cilat do t'ju ndihmojnë të kuptoni në mënyrë të prekshme natyrën e asaj që prodhon ky lloj i AI gjeneruese.

Hapja e kutisë së krimbave në AI gjeneruese

Ne jemi gati të zhytemi në disa detaje rreth AI.

Nëse tashmë jeni të përgatitur shumë mirë për temën e AI gjeneruese dhe ChatGPT, mund të zgjidhni të kaloni shkurtimisht pikat e mia dhe të vazhdoni me pjesën tjetër të këtij diskutimi. Për të gjithë të tjerët, besoj se mund ta gjeni të dobishëm këtë sqarim.

Shkurtimisht, AI gjeneruese është një lloj i veçantë i AI që kompozon tekst sikur teksti të jetë shkruar nga dora dhe mendja e njeriut. E tëra çfarë ju duhet të bëni është të shkruani një kërkesë, të tillë si një fjali si "Më trego për Abraham Lincoln" dhe AI ​​gjeneruese do t'ju ofrojë një ese rreth Linkolnit. Kjo zakonisht klasifikohet si AI gjeneruese që kryen tekst në tekst ose disa preferojnë ta quajnë atë tekst në ese prodhimit. Ju mund të keni dëgjuar për mënyra të tjera të AI gjeneruese, të tilla si tekst-në-art dhe tekst-në-video.

Mendimi juaj i parë mund të jetë se kjo nuk duket aq e madhe për sa i përket prodhimit të eseve. Mund të bëni lehtësisht një kërkim në internet në internet dhe të gjeni lehtësisht mijëra e mijëra ese rreth Presidentit Lincoln. Gjëja kryesore në rastin e AI gjeneruese është se eseja e krijuar është relativisht unike dhe ofron një përbërje origjinale dhe jo një kopje. Nëse do të provonit të gjenit diku në internet esenë e prodhuar nga AI, nuk do të kishit gjasa ta zbuloni atë.

Inteligjenca artificiale gjeneruese është e trajnuar paraprakisht dhe përdor një formulim kompleks matematikor dhe llogaritës që është krijuar duke ekzaminuar modele në fjalë të shkruara dhe tregime në të gjithë rrjetin. Si rezultat i ekzaminimit të mijëra e miliona pasazheve të shkruara, AI mund të nxjerrë ese dhe histori të reja që janë një përzierje e asaj që u gjet. Duke shtuar funksione të ndryshme probabilistike, teksti që rezulton është pak a shumë unik në krahasim me atë që është përdorur në grupin e trajnimit.

Kjo është arsyeja pse ka pasur një zhurmë për studentët që mund të mashtrojnë kur shkruajnë ese jashtë klasës. Një mësues nuk mund të marrë thjesht esenë që studentët mashtrues pohojnë se është shkrimi i tyre dhe të kërkojë të zbulojë nëse është kopjuar nga ndonjë burim tjetër në internet. Në përgjithësi, nuk do të ketë ndonjë ese përfundimtare paraekzistuese në internet që i përshtatet esesë së krijuar nga AI. Gjithsesi, mësuesi do të duhet të pranojë me paqartësi që studenti e ka shkruar esenë si një vepër origjinale.

Në një moment, unë do t'ju tregoj se çfarë ndodh kur futni pyetje ose kërkesa në AI gjeneruese. Unë do të përdor versionin më të fundit të ChatGPT për të futur kërkesat e mia dhe për të mbledhur "përgjigjet" ose esetë e krijuara nga AI (vini re se e njëjta gjë mund të bëhet me shumë aplikacione të tjera gjeneruese të AI; kam zgjedhur të përdor ChatGPT sepse po fiton pesë minutat e famës tani).

Ndoshta një tangjente e shkurtër rreth ChatGPT mund të jetë e dobishme në këtë moment.

Aplikacioni ChatGPT u bë i disponueshëm për publikun e gjerë vetëm disa muaj më parë. Në përgjithësi, këto aplikacione gjeneruese të AI janë zakonisht të aksesueshme vetëm për personat e brendshëm të AI. Aspekti i pazakontë që ChatGPT mund të përdorej nga kushdo, thjesht duke futur një adresë emaili dhe një emër, mirë, kjo bëri që shumë njerëz të vendosnin ta provonin. ChatGPT aktualisht është falas për t'u përdorur (çështja e fitimit të parave është një dilemë e afërt për krijuesit e AI).

Pothuajse menjëherë pati një reagim të madh në mediat sociale, ndërsa njerëzit vrapuan për të dhënë shembuj se çfarë mund të bëjë AI gjeneruese. Kompania që prodhon ChatGPT, OpenAI, vendosi të mbyllë regjistrimet për një milion përdorues. Ata milion përdorues kanë arritur të bombardojnë valët e transmetimit me të gjitha llojet e tregimeve dhe tregimeve rreth përdorimit të ChatGPT.

Jini shumë të kujdesshëm për të besuar atë që njerëzit kanë për të thënë për aplikacionin e AI. Shumë nga këta njerëz janë të paditur për atë që po përdorin. Është pothuajse sikur ata të mos kishin vozitur kurrë një makinë dhe as që e kishin kuptuar se makina ekzistonin, dhe papritmas ata patën një shans të drejtonin një makinë. Pason habia e plotë.

Nuk po them që AI gjeneruese nuk është relativisht mbresëlënëse. Eshte. Unë thjesht po theksoj se shumë nga dëshmitë e përhapura po bëhen nga shumë njerëz që nuk janë në dijeni të lumturisë se çfarë mund të bëjë AI e sotme. Ata prej nesh në brendësi të AI kanë përdorur AI gjeneruese gjatë disa viteve të fundit. Ndoshta jemi mësuar me të. Papritur, të shohësh një turmë të madhe njerëzish që e reklamojnë atë në çatitë ka qenë jashtëzakonisht energjike, por edhe disi shqetësuese. Pjesa shqetësuese është kur njerëzit shpallin se AI gjeneruese është e ndjeshme. Nuk eshte. Mos lejoni askënd t'ju bindë të kundërtën.

Thënë kjo, ekziston një debat i nxehtë i vazhdueshëm në fushën e AI nëse inteligjenca artificiale gjeneruese është në rrugën e ndjenjës apo nëse ndoshta nuk është. Një pikëpamje është se nëse vazhdojmë të rrisim inteligjencën artificiale gjeneruese me kompjuterë më të shpejtë dhe një sasi më të madhe të dhënash, si p.sh. pastrimi i çdo centimetër të internetit, ne do të arrijmë pothuajse spontanisht në AI të ndjeshme. Të tjerë argumentojnë se kjo është shumë e pamundur. Ata sugjerojnë se AI gjeneruese mund të jetë një nga shumë komponentët që nevojiten. Ekziston edhe një pikëpamje më e zymtë se AI gjeneruese është një shfaqje anësore që po na shpërqendron nga përparimet e vërteta që do të na duhen për të arritur AI të ndjeshme.

Ju gjithashtu mund të gjeni rëndësi të cilës i referohen të brendshëm të AI Inteligjenca e Përgjithshme Artificiale (AGI) si qëllimi aspirativ për fushën e AI. Më parë ishte se qëllimi ishte arritja Inteligjenca artificiale, por emri i AI është zbutur dhe ngatërruar. Kur dikush thotë se po bën punë me AI, nuk e dini nëse po aludojnë në AI-në e sotme që nuk është në të njëjtin nivel me njerëzit ose nëse i referohen një AI të ekuivalencës njerëzore futuriste. Për të kapërcyer atë konfuzion irritues, shprehja më e re e AGI po përdoret këto ditë.

Gjithsesi, inteligjenca artificiale gjeneruese e sotme është nuk i ndjeshëm, as nuk është AGI.

Ju lutemi mbani mend se siç u diskutua më herët, AI nuk është i ndjeshëm. Përgjigjet e gjeneruara nga AI janë një kombinim matematikor dhe llogaritës i fjalëve në pasazhe në dukje të rrjedhshme. Kjo bazohet në algoritmin e AI që është trajnuar mbi grupet e të dhënave të fjalëve dhe tregimeve që njerëzit kanë shkruar (kryesisht siç janë postuar në internet). E përsëris këtë paralajmërim sepse padyshim që do të bini në grackën mendore se këto përgjigje janë aq të rrjedhshme sa që AI duhet të jetë e ndjeshme. Kjo ndodh me shumicën e njerëzve. Siç u kërkua më parë, lini mënjanë atë antropomorfizimin. Gjithmonë mbani mend se përgjigjet bazohen në sasinë e madhe të shkrimeve nga njerëzit që ekziston në internet dhe kështu do t'i ngjajnë shumë shkrimeve njerëzore.

Ka diçka tjetër që duhet të dini.

Inteligjenca artificiale gjeneruese që është trajnuar në internet në një mënyrë të papenguar do të priret të përdorë çfarëdo përgjigje të bazuara në tekst që sajon matematikisht dhe në mënyrë llogaritëse disa gjëra fyese të mjegullta, duke përfshirë formulime të neveritshme. Ka shumë gjëra të çmendura dhe të ndyra të postuara atje në ueb.

E keni parë, e dini se çfarë dua të them.

Kompanitë që po krijojnë këto aplikacione të AI janë të shqetësuara se foshnja proverbiale do të hidhet jashtë me ujin e banjës (një thënie e vjetër, ndoshta për të dalë në pension), që do të thotë se nëse AI i tyre prodhon ese ose histori fyese, njerëzit do të ngrihen në krahë. në lidhje me AI. Kam mbuluar shumë raste të mëparshme në të cilat u zbuluan këto lloje të aplikacioneve të AI të Përpunimit të Gjuhës Natyrore (NLP) dhe shumë shpejt dolën prej tyre të gjitha llojet e gjërave të tmerrshme (i kam mbuluar këto raste në kolonën time). Shumica e prodhuesve të AI mësuan një mësim të vështirë për të lejuar që produktet e tyre të AI të jenë të papenguara në rezultatet e tyre.

Në rastin e ChatGPT, zhvilluesit e AI u përpoqën të vendosnin disa kontrolle dhe balanca algoritmike dhe të lidhura me të dhënat për të frenuar keqbërjen në rezultatet e AI. Një pjesë e kësaj ndodhi gjatë kohës së stërvitjes. Përveç kësaj, ka mjete të tjera në një përpjekje në kohë reale për të shmangur rezultate veçanërisht skandaloze.

Ju mund të gjeni me interes që disa njerëz që kanë përdorur ChatGPT kanë gjetur tashmë mënyra të fshehta për të kapërcyer ato parmakë duke përdorur mashtrime të ndryshme. Një lojë e vazhdueshme mace-miu zhvillohet në këto çështje. Ata që bëjnë këto mashtrime ndonjëherë e bëjnë këtë për qejf, ndërsa ndonjëherë ata (të paktën pretendojnë) po e bëjnë këtë për të parë se sa larg mund të shtrihet AI dhe të ofrojnë një mjet të dobishëm për të paralajmëruar brishtësinë dhe dobësitë e këtyre lulëzimit. Aplikacionet e AI.

Vendosa të mos përpiqem të anashkaloj kontrollet e zakonshme në këtë eksplorim të fokusuar. Dalja e tekstit është e pastër. Sigurisht, nëse dikush do të donte ta bënte këtë, padyshim që mund të krijoni disa ese të çuditshme dhe të pakëndshme.

Esetë e prodhuara nga shumica e këtyre aplikacioneve gjeneruese të AI janë krijuar për të përcjellë rezultatin sikur të jetë thjesht faktik dhe i saktë. Kur lexoni esetë e prodhuara, ato shfaqen plotësisht të sigurta. Zakonisht nuk ka asnjë lloj treguesi se përmbajtja mund të jetë e rëndë. Kjo është me zgjedhjen e krijuesve të AI, domethënë që ata mund të rishikojnë aplikacionet e AI për të qenë më transparente nëse do të donin që aplikacioni i AI ta bënte këtë.

Ndonjëherë, një aplikacion gjenerues i AI zbulon gënjeshtra mes të dhënave të trajnimit të informacioneve jo të besueshme në internet. Nuk ka asnjë "sens të përbashkët" në AI gjeneruese për të përcaktuar se çfarë është e vërtetë kundrejt false. Për më tepër, shumë pak aplikacione të AI kanë ndonjë kontroll të kryqëzuar dhe as nuk shfaqin ndonjë probabilitet të lidhur me atë që po përcjellin.

Rezultati përfundimtar është se ju merrni një përgjigje që duket dhe ndihet sikur nxjerr siguri të madhe dhe duhet të jetë plotësisht e saktë. Jo ashtu. Madje ekziston një shans që gjërat e krijuara në mënyrë llogaritëse të AI, të cilat në gjuhën e AI referohen si Halucinacionet e AI (një term i shpikur që definitivisht nuk më pëlqen), shikoni diskutimin tim në lidhja këtu.

Krijuesit e ChatGPT iu nënshtruan një përpjekjeje të përbashkët për të provuar të zvogëlojnë rezultatet e gjërave të këqija. Për shembull, ata përdorën një variant të asaj që njihet si RLHF (Reinforcement Learning from Human Feedback), ku përpara se të lëshonin AI për publikun, ata kishin punësuar njerëz për të ekzaminuar rezultate të ndryshme dhe për t'i treguar AI nëse kishte gjëra të gabuara me ato rezultate, si ndoshta shfaqja e paragjykimeve, fjalëve të ndyra dhe si. Duke ofruar këtë reagim, aplikacioni i AI ishte në gjendje të rregullonte llogaritëse dhe matematikisht drejt reduktimit të emetimit të një përmbajtjeje të tillë. Vini re se kjo nuk është një metodë e garantuar e hekurt dhe ka ende mënyra që një përmbajtje e tillë mund të emetohet nga aplikacioni AI.

Ju mund të gjeni interes që ChatGPT bazohet në një version të një aplikacioni paraardhës të AI të njohur si GPT-3. ChatGPT konsiderohet të jetë një hap paksa i ardhshëm, i referuar si GPT-3.5. Parashikohet që GPT-4 ka të ngjarë të dalë në pranverën e vitit 2023. Me sa duket, GPT-4 do të jetë një hap mbresëlënës përpara për sa i përket aftësisë për të prodhuar ese në dukje edhe më të rrjedhshme, duke u thelluar dhe duke qenë një frikë - mrekulli frymëzuese për kompozimet që mund të prodhojë.

Ju mund të prisni të shihni një raund të ri të habisë së shprehur kur të vijë pranvera dhe të lëshohet më e fundit në AI gjeneruese.

E paraqes këtë sepse ka një kënd tjetër për t'u mbajtur parasysh, që përbëhet nga një thembra e mundshme e Akilit për këto aplikacione më të mira dhe më të mëdha gjeneruese të AI. Nëse ndonjë shitës i AI vë në dispozicion një aplikacion gjenerues të AI që nxjerr papastërti, kjo mund të shkatërrojë shpresat e atyre krijuesve të AI. Një përhapje shoqërore mund të bëjë që e gjithë AI gjeneruese të marrë një sy të zi serioz. Njerëzit padyshim që do të mërziten mjaft nga rezultatet e ndyra, të cilat kanë ndodhur shumë herë tashmë dhe kanë çuar në reagime të bujshme të dënimit shoqëror ndaj AI.

Një paralajmërim i fundit për momentin.

Çfarëdo që shihni ose lexoni në një përgjigje gjeneruese të AI-së duket për t'u transmetuar si thjesht faktike (data, vende, njerëz, etj.), sigurohuni që të qëndroni skeptik dhe të jeni të gatshëm të kontrolloni dy herë atë që shihni.

Po, datat mund të sajohen, vendet mund të krijohen dhe elemente që zakonisht presim të jenë të paqortueshme janë të gjithë subjekt i dyshimeve. Mos i besoni asaj që lexoni dhe mbani një sy skeptik kur shqyrtoni çdo ese ose rezultate gjeneruese të AI. Nëse një aplikacion gjenerues i inteligjencës artificiale ju tregon se Abraham Lincoln fluturoi në të gjithë vendin me avionin e tij privat, padyshim që do ta dinit se kjo është e keqe. Fatkeqësisht, disa njerëz mund të mos e dallojnë se avionët nuk ishin aty në kohën e tij, ose mund ta dinë, por nuk arrijnë të vënë re se eseja e bën këtë pretendim të guximshëm dhe jashtëzakonisht të rremë.

Një dozë e fortë e skepticizmit të shëndetshëm dhe një mendësi e vazhdueshme e mosbesimit do të jetë pasuria juaj më e mirë kur përdorni AI gjeneruese.

Ne jemi gati të kalojmë në fazën tjetër të këtij sqarimi.

Ato përpjekje për të regjistruar ato gabime të nxjerra nga ChatGPT

"Epo, ke probleme, miku im, pikërisht këtu, them unë, telashe pikërisht këtu në River City," thotë linja e famshme nga muzika klasike e Broadway. Njeriu i Muzikës.

E njëjta linjë mund të zbatohet për AI gjenerative të sotme.

Njerëzit filluan të kuptojnë se një aplikacion gjenerues i AI mund të prodhojë gënjeshtra dhe me të vërtetë dukeshin të befasuar nga ato rezultate shqetësuese. Ndoshta disa supozuan se AI nuk është në gjendje të bëjë gabime. Të tjerët mund të kishin parashikuar që zhvilluesit e AI do të siguronin që asnjë rezultat i tillë nuk do të gjenerohej.

Në çdo rast, personat e brendshëm të inteligjencës artificiale e kuptuan menjëherë se ky lloj prodhimi i gabuar është pjesë përbërëse e vendit ku ndodhet pjesa më e madhe e inteligjencës artificiale gjeneruese të sotme. Është shumë e vështirë të parandalosh që këto lloj gabimesh tekstuale të ndodhin. Mbani në mend se AI nuk ka ngjashmëri të sensit të përbashkët dhe nuk po përdor logjikën në vetvete kur nxjerr esetë e krijuara. I gjithë kit-and-caboodle ka të bëjë me bërjen e një modeli statistikor llogaritës dhe probabilistik të përputhjes së fjalëve me fjalë të tjera.

Në fillim, personat e brendshëm të AI zgjodhën të postonin ato rezultate të çuditshme të zbuluara të ChatGPT në faqet e mediave sociale. Shikoni këtë, do të njoftonte dikush. Kjo është keq, do të përgjigjej dikush tjetër, dhe më pas do të ofronte një shembull tjetër që dukej edhe më keq. Kjo vazhdoi dhe me radhë.

Këta shembuj të gënjeshtrave dhe gabimeve në esetë e nxjerra po dilnin jashtë. Nje nga nje. Për më tepër, meqenëse kjo zakonisht postohej në mediat sociale, nuk kishte një mënyrë veçanërisht të lehtë për t'i parë të gjitha menjëherë. Shpesh i njëjti ose një shembull i ngjashëm do të postohej nga dikush që nuk e kishte kuptuar që të tjerët e kishin gjetur tashmë shembullin specifik.

Në këtë moçal të lulëzuar hynë ata që shprehën një sugjerim të dobishëm. Ndoshta duhet të ngremë një depo ose bazë të dhënash, ndoshta edhe thjesht një fletëllogaritëse të zakonshme të përditshme, që përmban numrin e çuditshëm të ChatGPT dhe rezultate të gabuara që po zbulohen. Sa herë që dikush gjen një bukuri të një guffaw, shkoni përpara dhe regjistrojeni atë në listë. Disa e kanë bërë këtë pothuajse në një lojë, ku ata qëllimisht përpiqen të bëjnë ChatGPT të nxjerrin rezultate të çuditshme. Të tjerët ndoshta hasin në rezultate të gabuara gjatë përdorimit të ChatGPT për qëllime të tjera të përcaktuara.

Tingëllon mjaft e thjeshtë.

Duket si një mënyrë e dobishme për të na ndihmuar të gjithëve.

Le të bëjmë një përmbledhje të shkurtër se përse të kesh këto lloje të listave në lidhje me gabimet e vërejtura të nxjerra ose të rreme të ChatGPT ka shumë kuptim për t'u përpiluar:

• 1) Zbulon probleme dhe shqetësime jetike në lidhje me ChatGPT për të cilat publiku në përgjithësi duhet të jetë i vetëdijshëm
• 2) Ndihmon në kundërbalancimin e zhurmës së tepërt dhe pritjeve të fryra rreth ChatGPT
• 3) Mund t'i shtyjë krijuesit e AI të bëjnë përmirësime, jo vetëm për ChatGPT por edhe për aplikacione të tjera gjeneruese të AI
• 4) Shërbyer si një rekord historik që mund të përdoret më vonë për të reflektuar në prapavijë mbi shfaqjen e AI gjeneruese siç është ilustruar përmes ChatGPT
• 5) Bëhuni një burim kolektiv i përshtatshëm për këdo që ka nevojë të zbulojë atë që duket se kemi zbuluar në lidhje me rezultatet e gabuara ChatGPT
• 6) E dobishme për studiuesit e të gjitha disiplinave që po shqyrtojnë ndikimet e ChatGPT
• 7) Mund të përdoret si një pikë referimi se çfarë nuk duhet bërë dhe si të matet kur AI gjeneruese nuk po i bën gjërat siç duhet
• 8) Trokit në mendjen e koshereve për të mbledhur një urtësi të turmës në lidhje me gabimet që po prodhon ChatGPT, për të cilat një përpjekje individuale nuk ka gjasa të përpilohet në mënyrë shteruese në mënyrë të barabartë
• 9) Mund të ofrojë informacion të rëndësishëm për Etikën e UA dhe Ligjin për IA
• Etj

Kjo duket të jetë një bazë mbresëlënëse për krijimin e këtyre depove.

Pse dikush nuk do të pajtohej me këtë vepër krejtësisht të lavdërueshme dhe në dukje heroike?

Le të hedhim një vështrim në atë që të tjerët kanë thënë për këtë, duke e bërë këtë me një listë arsyesh pse kjo mund të mos jetë mjaullia e maces:

• 1) Këto gabime të gjetura në dalje janë të parëndësishme në skemën e madhe të gjërave dhe po u jepet peshë e tepërt përtej vlerës së tyre
• 2) Shanset janë që krijuesi i AI tashmë po bën regjistrimin dhe përditësimin e tij të ChatGPT në mënyrë që këto raste të çuditshme së shpejti thjesht të lihen pas në pluhur dhe të mos ndodhin më
• 3) Po kështu, versioni tjetër ndoshta do të jetë më i mirë gjithsesi dhe mund të mos i shfaqë më këto raste të vjetruara së shpejti
• 4) Ju nuk mund të bëni ndonjë përfundim gjithëpërfshirës ose të merrni njohuri nga një koleksion i rastësishëm i rasteve të goditura ose të humbura
• 5) Disa mund të përdorin koleksione të ndryshme për të deklaruar në mënyrë dramatike se AI gjeneruese është e keqe dhe se ne duhet të ndalojmë përfundimisht të gjithë ndjekjen e këtij lloji të AI
• 6) Shpejtësia me të cilën AI gjeneruese dhe ChatGPT po përparojnë është aq e shpejtë sa që këto raste do të bien me shpejtësi në rrugë dhe nuk do të jenë më të rëndësishme
• 7) Me lista të tilla kolektive të shumta në zhvillim dhe me asnjë burim të vetëm të vajosur global, çështja është e ndarë dhe ka të ngjarë të përmbajë përsëritje dhe të fragmentohet në mënyrë të paarsyeshme
• 8) Ofron një ndjenjë të rreme për të bërë diçka të dobishme, ndërsa ndoshta koha dhe vëmendja mund t'i kushtohet përdorimeve të tjera më të mira
• 9) Nuk ofron asgjë thelbësore për Etikën e UA dhe Ligjin e AI
• Etj

Ju mund të keni vënë re se unë u përpoqa t'i mbaj gjërat në një nivel të barabartë duke vënë në dukje nëntë arsye në favor të listave kolektive dhe nëntë arsye në disfavor. Ka arsye shtesë që mund të thuhet, por besoj se treguesi i mësipërm jep thelbin e gjërave.

Për ata që po i bashkojnë këto lista kolektive, ata ka të ngjarë të thonë se nëse në fakt duan ta bëjnë këtë, është një botë e lirë dhe ata mund të bëjnë si të duan. Asgjë nuk është e gabuar me të. Ata që nuk favorizojnë përpjekjet në përgjithësi janë të vegjël dhe thjesht duhet të injorojnë koleksionet. Shiko punën tënde.

Në thelb, asnjë dëm, asnjë faull.

Kampi që duket se nuk i favorizon listat kolektive në përgjithësi do të pranonte se të tjerët mund t'i bëjnë ato lista nëse duan ta bëjnë këtë, por që nuk e lëviz gjilpërën. Listat nuk do të jenë veçanërisht të dobishme. Më keq akoma, listat mund të keqinterpretohen ose të keqpërdoren. Ndoshta është më mirë ta thërrisni një ditë dhe të ndaloni së bërë listat.

Në thelb, është një përpjekje e bukur, megjithëse një ushtrim në kotësi.

Ku banoni në këtë debat të përzemërt?

Do të të lë ta mendosh këtë.

Shembuj të gabimeve të gjetura dhe rezultateve të tjera të gabuara të ChatGPT

Mendova se mund të gjenit me interes të madh disa nga gabimet e identifikuara ose të rreme që janë shfaqur në këto lista koleksionesh.

Nuk dua që ju të mendoni se disa raste të paraqitura këtu janë tërësia e koleksioneve. Nuk eshte. Unë jam duke zgjedhur vetëm një grusht që shfaqet shpesh. Besoj se të paktën do të jeni në gjendje të kuptoni në përgjithësi tonin dhe natyrën e asaj që është renditur.

Ja çfarë po zgjedh të mbuloj:

• Identifikimi i pozicionit të shkronjës me një fjalë
• Pyetje për kafshën më të shpejtë
• Përcaktimi i pozicionit të sekuencës së fjalëve
• Vendosja e topave të tenisit në një tub
• Përcaktimi i Pi
• Përgjigjja e një gjëegjëze problematike klasike
• Ngritja e pendëve

Unë jam duke parashikuar që disa nga mbikëqyrësit e koleksioneve do të mërziten që nuk po mbuloj më shumë shembuj për ju. Për shkak të kufizimeve të hapësirës, ​​ka vetëm kaq shumë që mund të mbuloj. Nëse dëshironi t'i hidhni një sy listave të koleksioneve që publikohen hapur në internet, një kërkim i thjeshtë në internet mund të sjellë shumë prej tyre. Disa nga listat mbahen private, ose janë të kyçura në mënyrë që ju të mund ta shihni listën, por nuk mund të bëni modifikime në listë.

Me këtë sfond, ne jemi gati të hidhemi në disa shembuj. Unë do t'ju tregoj kërkesën që kam futur. Më pas, unë tregoj përgjigjen e tekstit të prodhuar nga ChatGPT. Në disa raste, unë kam bërë disa herë prapa për një temë specifike, prandaj do të tregoj serinë e kërkesave dhe rezultateve në përputhje me rrethanat. Pasi ta bëj këtë, unë do të jap një analizë të shkurtër të asaj që mund të dëshironi të vini re në lidhje me shembullin.

Shembulli i parë do të kërkojë që ChatGPT të gjejë një shkronjë brenda një fjale të dhënë.

Identifikimi i pozicionit të shkronjës me një fjalë

• Teksti im i futur: "Ku është shkronja V në mjedis"
• Përgjigja me tekst e krijuar nga ChatGPT: Shkronja "V" nuk shfaqet në fjalën "mjedis". Fjala "mjedis" përbëhet nga shkronjat e, n, v, i, r, o, n, m, e, n dhe t.
• Teksti im i futur: "Ku është shkronja v në mjedis"
• Përgjigja me tekst e krijuar nga ChatGPT: "Shkronja "v" është shkronja e katërt në fjalën "mjedis".

Analiza e tekstit të krijuar

Vini re se fillova duke i kërkuar ChatGPT të identifikojë pozicionin e shkronjës së shkronjës "V" në fjalën "mjedis" - kjo duhet të jetë një detyrë jashtëzakonisht e thjeshtë dhe ne do të prisnim që ajo të kryhet pa të meta. Asnjë shkencë raketore nuk është e përfshirë.

Përgjigja fillestare e gjeneruar nga ChatGPT është paksa shqetësuese pasi jemi informuar se shkronja "V" nuk ekziston në fjalën "mjedis". Ju dhe unë e dimë se ekziston një letër e tillë. Dikush supozon se ndoshta për shkak të përdorimit tim të një germe të madhe, aplikacioni i AI u hodh disi. Ndoshta nëse përdor një shkronjë të vogël, aplikacioni i AI do të funksionojë më mirë.

Jo ne te vertete.

Kur pyeta nëse një "v" është në fjalë, aplikacioni i AI u përgjigj duke treguar se është shkronja e katërt, që ju dhe unë e dimë se është e gabuar dhe se është shkronja e tretë në vend të kësaj.

Shumë njerëz me siguri do të habiten nga ky rezultat. Si mundet një aplikacion i AI që gjeneron ese të plota për Abraham Lincoln që janë plotësisht të rrjedhshme dhe origjinale, në një farë mënyre të mos jetë në gjendje të kuptojë se ku ndodhet një shkronjë e caktuar në një fjalë të caktuar? Është befasuese dhe goja tepër e çuditshme.

Një perspektivë është se kjo është krejtësisht e parëndësishme dhe bota siç e njohim nuk është e tronditur në thelb për shkak të mungesës së poshtër për të kuptuar se ku qëndron një shkronjë e caktuar. Lëreni të shkojë.

Një perspektivë tjetër është se kjo mund të jetë sinjal për çështje të tjera të fshehura për të cilat ne ende nuk dimë. Ndoshta ky lloj prodhimi është kanarina në kafazin e shpendëve. Do të ishte më mirë t'i zgjidhnim gjërat e vogla, përndryshe mund të gjejmë veten në skajin e gabuar të gjërave vërtet të mëdha.

Duke vazhduar, më pas bëj një pyetje për kafshët.

Pyetje për kafshën më të shpejtë

• Teksti im i futur: "Cila është kafsha më e shpejtë që ka lesh dhe krahë?"
• Përgjigja me tekst e krijuar nga ChatGPT: “Skifteri i kafshëve konsiderohet si kafsha më e shpejtë në botë. Ai mund të arrijë shpejtësi mbi 389 km/h (242 mph) kur zhytet për të kapur prenë e tij. Ka pendë por jo gëzof. Është një zog jo një kafshë që ka lesh dhe krahë.”

Analiza e tekstit të krijuar

Pyeta se cila është kafsha më e shpejtë që ka lesh dhe krahë. Besoj se është e arsyeshme të konkludoj se doja të merrja një kafshë me emrin që i ka të dyja lesh krahët. Unë supozoj se ju do ta interpretoni pyetjen time në atë mënyrë. Shumica e njerëzve do.

Përgjigja nga ChatGPT është paksa e çuditshme.

Na thuhet se skifteri është kafsha më e shpejtë në botë. Sipas online Enciklopedia Britannica, Cheetah duket të jetë kafsha më e shpejtë në botë. Thënë kjo, përgjigja e ChatGPT tregon se skifteri i rrëpirës nuk është kafshë, edhe pse kisha pyetur se cila është kafsha më e shpejtë. Përgjigja e ChatGPT më thotë gjithashtu se skifteri i zogjve nuk ka gëzof, megjithëse besoj se kisha kërkuar diçka që ka edhe gëzof edhe krahë.

Në përgjithësi, duket se ChatGPT e ka “keqinterpretuar” kërkesën time dhe është fokusuar vetëm në aspektet e krahut. Por kjo nuk është aspak e vërtetë pasi përgjigja përfshinte gjithashtu një koment për leshin dhe zogjtë kundër kafshëve. Rreth e rrotull kjo shkon.

E kuptoj që mund të argumentoni se ky është një shembull i mprehtë.

Ndoshta po, megjithëse ndoshta tregon gjithashtu se ajo që thoni në një kërkesë mund të marrë një rezultat të turbullt dhe më mirë të jeni të kujdesshëm në rishikimin e çdo gjëje që del në dalje. Kuptoni se kjo ishte një përgjigje jashtëzakonisht e shkurtër e esesë për t'u inspektuar lehtësisht pasi është shumë e shkurtër në gjatësi. Nëse keni një ese veçanërisht të gjatë dhe shumë teknike, mund të mashtroheni ose të humbisni fare të dalloni një tregues negativ të ngulitur thellë në përgjigjen e dalë.

Le të hedhim një vështrim në gjetjen e një fjale brenda një fjalie.

Përcaktimi i pozicionit të sekuencës së fjalëve

• Teksti im i futur: "Cila është fjala e tretë në fjalinë "Dhelpra u hodh mbi gardh".
• Përgjigja me tekst e krijuar nga ChatGPT: "Fjala e tretë në fjalinë "Dhelpra u hodh mbi gardh." është "dhelpra"
• Teksti im i futur: "Sa fjalë ka në fjalinë e dhënë?"
• Përgjigja me tekst e krijuar nga ChatGPT: "Ka gjashtë fjalë në fjalinë e dhënë "Dhelpra u hodh mbi gardh".
• Teksti im i futur: "Cila fjalë është e treta në atë fjali?"
• Përgjigja me tekst e krijuar nga ChatGPT: "Fjala që është e treta në fjalinë "Dhelpra u hodh mbi gardh". është "kërcuar"

Analiza e tekstit të krijuar

Ky shembull është pothuajse po aq magjepsës sa shembulli i mëparshëm për gjetjen e shkronjës "v" në një fjalë të caktuar.

I dhashë një fjali të thjeshtë dhe pyeta se cila ishte fjala e tretë. ChatGPT tregoi se ishte fjala "dhelpra" e cila është vetëm fjala e dytë e fjalisë. Përgjigje të gabuar. Më pas pyeta se sa fjalë kishte në fjali, duke dashur të zbuloja nëse ChatGPT kishte llogaritur gabim sa fjalë kishte. Na thuhet se janë gjashtë fjalë, saktë.

Më në fund, morëm përgjigjen e saktë për fjalën e tretë kur bëra përsëri pyetjen time origjinale, edhe pse pak e riformuluar.

Unë sjell këtë shembull për të ilustruar se ndonjëherë me AI gjeneruese mund të merrni një përgjigje të gabuar që përfundimisht mund të kthehet në përgjigjen e duhur duke ecur në aplikacionin e AI përmes një sërë kërkesash. Disa persona të brendshëm të AI i referohen kësaj si një lloj protokoll me mend me zë të lartë ose Treni i mendimeve qasje, ku ju mund të bëni diçka të njëjtë me një njeri.

Në rastin e AI, kuptoni se ajo nuk është duke "menduar" në të njëjtën pamje si mendimi njerëzor. Fraza më e përshtatshme do të ishte të thuash se mund të futësh kërkesat tuaja në a hap pas hapi bazë ose bëj një seri promptesh të lidhura me zinxhir.

Gjithsesi, në mënyrë interesante, ndonjëherë ia vlen të përdorni një aplikacion gjenerues të AI derisa të merrni një përgjigje të duhur. Mbani parasysh këtë.

Më pas do të hedhim një vështrim në një logjikë të thjeshtë aritmetike.

Vendosja e topave të tenisit në një tub

• Teksti im i futur: "A mund të vendosni tre topa të gjelbër tenisi dhe dy topa të verdhë tenisi në një tub që mund të përmbajë katër topa tenisi?"
• Përgjigja me tekst e krijuar nga ChatGPT: “Jo, nuk është e mundur të vendosësh tre topa të gjelbër tenisi dhe dy topa të verdhë tenisi në një tub që mund të përmbajë vetëm katër topa tenisi. Numri i përgjithshëm i topave të tenisit është pesë, që është më i madh se kapaciteti i tubit.”
• Teksti im i futur: "A mund të vendosni shtatë topa blu dhe dy topa të kuq në një tub që mban tetë topa?"
• Përgjigja me tekst e krijuar nga ChatGPT: “Po, është e mundur të vendosësh shtatë topa blu dhe dy topa të kuq në një tub që mban tetë topa. Numri i përgjithshëm i topave është nëntë, që është më i vogël ose i barabartë me kapacitetin e tubit.

Analiza e tekstit të krijuar

Fillova duke vendosur një problem logjik të orientuar nga aritmetika për ta zgjidhur ChatGPT. Një tub mund të përmbajë katër topa tenisi. Unë kam tre jeshile dhe dy të verdha. A do të futen të gjithë në tub? Ju dhe unë e dimë se nuk do ta bënin. Ne mund të llogarisim në kokën tonë se ka gjithsej pesë topa tenisi dhe kështu ata nuk do të futen në një tub që lejon vetëm katër.

Unë e kuptoj se ju mund të dëshironi të luftoni problemin dhe të pretendoni se ndoshta mund të shtypni topat e tenisit ose të bëni mashtrime të tjera. Le të qetësohemi këtu dhe të përballemi me problemin ashtu siç është.

ChatGPT mori përgjigjen e duhur.

Më pas bëra të njëjtën pyetje dhe ndryshova ngjyrat në blu dhe të kuqe. Ndryshova gjithashtu sa ka nga secili dhe ndryshova sa mund të futen në tub.

ChatGPT duhet t'i kthehet matematikës korrigjuese sepse thotë se janë nëntë topa dhe se kjo është më pak ose e barabartë me kapacitetin e tubit që mban tetë. I bën sytë të rrotullohen.

A duhet t'i ngremë supet dhe t'i referohemi kësaj deri tek ndezjet e njollave të diellit apo efekte të tjera të jashtme?

Unë nuk mendoj kështu. Aplikacioni i AI mori pyetjen e parë të drejtë. Me sa duket, duhet të kishte marrë një pyetje të ngjashme gjithashtu. Nuk ndodhi.

Theksi im në këtë shembull është se shumë njerëz përdorin AI gjeneruese dhe kur marrin një përgjigje të duhur ose një seri përgjigjesh të sakta, ata janë të kënaqur të besojnë se të gjitha përgjigjet e mëvonshme do të jenë gjithmonë të sakta. Ju do të gaboni në atë supozim të pacipë. Mos e bëni atë supozim. Jini të kujdesshëm në çdo kohë.

Duke folur për matematikën, le të shohim se çfarë thotë ChatGPT për natyrën e pi.

Përcaktimi i Pi

• Teksti im u fut: "Tregoni cilat janë pesë shifrat e fundit të pi"
• Përgjigja me tekst e krijuar nga ChatGPT: “Unë jam një model gjuhësor dhe kufiri i njohurive të mia është 2021. Vlera e pi është një numër irracional dhe përfaqësimi i tij dhjetor vazhdon përgjithmonë pa u përsëritur. Nuk është e mundur të sigurohen pesë shifrat e fundit të pi.

Analiza e tekstit të krijuar

Disa njerëz kanë pohuar se kanë marrë ChatGPT për të treguar pesë shifrat e fundit të pi-së, e cila sigurisht është e kotë pasi që pi me sa duket nuk mbaron kurrë. Kështu që, u përpoqa të shihja se çfarë kishte për të thënë ChatGPT. Siç mund ta shihni, përgjigja e saktë siç është dhënë nga ChatGPT se nuk është e mundur të jepen pesë shifrat e fundit të pi.

Gjëja e çuditshme megjithatë është se ChatGPT ofroi diçka tjetër për të cilën nuk u pyet me të vërtetë. Përgjigja e dhënë thotë gjithashtu se kufiri i njohurive ishte 2021 (të cilin e përmenda më herët këtu në përmbledhjen time rreth ChatGPT). Kjo edhe pse duket si një përgjigje e pavend, përveç nëse aplikacioni i AI po parashikon që ndoshta në vitin 2022 ka pasur një përparim dhe matematikanët deklaruan se pi përfundon. Wow, ky do të ishte lajmi kryesor.

Kam edhe dy shembuj të tjerë për të shfaqur dhe më pas do ta mbyllim këtë diskutim.

Le të përdorim një gjëegjëzë klasike dhe shqetësuese.

Përgjigjja e një gjëegjëze problematike klasike

• Teksti im i futur: “Babë e bir kanë qenë në një aksident automobilistik ku ka mbetur i vrarë babai. Ambulanca e solli djalin në spital. Ai kishte nevojë për një operacion të menjëhershëm. Në sallën e operacionit, një mjek hyri dhe e shikoi djalin e vogël dhe tha që nuk mund ta operoj, ai është djali im. Kush është doktori?”
• Përgjigja me tekst e krijuar nga ChatGPT: “Nuk është e specifikuar në skenarin e parashikuar se kush është mjeku. Skenari thotë se doktori ka thënë “Nuk mund ta operoj ai është djali im”, duke treguar se mjeku mund të jetë babai i djalit, por nuk është e sigurt. Nevojitet më shumë informacion për të përcaktuar identitetin e mjekut.”

Analiza e tekstit të krijuar

Vë bast se mund ta keni parë këtë gjëegjëzë më parë. Është bërë relativisht e shpeshtë e cituar.

Arsyeja që ka dalë jo pak është se kirurgu mund të jetë nëna e djalit. Shoqëria priret të supozojë se një kirurg duhet të jetë burrë, dhe si rrjedhim duhet të jetë babai i djalit. Babai megjithatë humbi jetën në një aksident automobilistik. Ne përjashtojmë që babai të jetë kirurg. Natyrisht, ne duhet të vendosim që kirurgu mund të jetë një grua, dhe kështu nëna e djalit.

Doja t'ju tregoja se ChatGPT mund të lëshojë përgjigje që përmbajnë paragjykime të mundshme. Jo sepse inteligjenca artificiale është e ndjeshme, gjë që definitivisht nuk është, por sepse ka modele që përputhen me fjalët dhe përdorimin e fjalëve në internet. Paragjykimet e ndryshme dhe formulimet diskriminuese mund të jenë lehtësisht të thella brenda përputhjes së modelit llogaritës.

Mbajeni këtë në krye të mendjes ndërsa përdorni këto aplikacione gjeneruese të AI.

Më në fund, një vështrim i shpejtë në ngritjen e puplave.

Ngritja e pendëve

• Teksti im u fut: "Nëse i duhet një njeriu për të ngritur një pendë, sa burra do të duheshin për të ngritur shtatë trilionë pendë?"
• Përgjigja me tekst e krijuar nga ChatGPT: "Nëse i duhet një njeriu për të ngritur një pendë, do t'i duhen gjithashtu një njeriu për të ngritur shtatë trilionë pendë. Numri i burrave që kërkohet për të ngritur një objekt nuk varet nga numri i puplave, por nga pesha dhe madhësia e puplave dhe nga forca dhe aftësia e çdo njeriu. Ngritja e shtatë trilion pendëve do të kërkonte pajisje të mëdha dhe aftësi transporti, jo vetëm forcë njerëzore.”
• Teksti im u fut: "Nëse i duhet një gruaje për të ngritur një pendë, sa gra do të duheshin për të ngritur shtatë trilionë pendë?"
• Përgjigja me tekst e krijuar nga ChatGPT: "Nëse i duhet një gruaje për të ngritur një pendë, do t'i duhej gjithashtu një gruaje për të ngritur shtatë trilionë pendë. Numri i grave që kërkohet për të ngritur një objekt nuk varet nga numri i puplave, por nga pesha dhe madhësia e puplave dhe nga forca dhe aftësia e secilës grua. Ngritja e shtatë trilion pendëve do të kërkonte pajisje të mëdha dhe aftësi transporti, jo vetëm forcë njerëzore. Është e rëndësishme të theksohet se aftësia për të ngritur diçka nuk përcaktohet nga gjinia e dikujt, por nga një kombinim faktorësh si forca fizike, stërvitja dhe teknika.”

Analiza e tekstit të krijuar

Ky shembull i fundit ka disa veçori të fshehura brenda tij dhe kërkon paketim.

Fillimisht i thashë ChatGPT se një burrë mund të ngrejë një pendë. Kjo u pasua menjëherë nga një pyetje se sa burra do të duheshin për të ngritur shtatë trilion pendë. Mundësia për të bërë një gabim logjik kur i përgjigjeni kësaj pyetjeje është se mund të supozoni se një pendë është në dukje pa peshë dhe kështu shtatë trilion prej tyre do të ishin gjithashtu pa peshë.

Sipas një kërkimi në internet që bëra, pesha konvencionale e vlerësuar e një pendë është rreth 0.00125 paund. Nëse e shumëzoni atë peshë të vlerësuar me shtatë trilionë, do të dilni me një peshë që tejkalon tetë miliardë paund. Nuk besoj se një njeri mund ta ngrejë atë peshë, edhe nëse stërvitet për tërë jetën.

Përgjigja nga ChatGPT është e drejtë. Na thuhet se pesha e pendëve mund të ndryshojë. Na thuhet se do të kërkoheshin pajisje dhe transport të madh. Fjalia hyrëse e esesë është disi magjepsëse, sepse thotë se nëse i duhet një njeriu për të ngritur një pendë të vetme, do t'i duheshin edhe një njeriu për të ngritur shtatë trilionë. Ne mund ta kundërshtojmë lehtësisht këtë pohim. Pretendimi duket se nxjerr konkluzione që nuk mbështeten dhe në dukje nënvlerësojnë pjesën tjetër të përgjigjes.

Vendosa të bëj të njëjtën pyetje, por pyeta për një grua që bën të njëjtën lifting dhe jo një burrë.

Ne fillimisht morëm të njëjtën përgjigje si ajo që iu dha pyetjes së orientuar nga njeriu. Interesante, në fund të përgjigjes për shembullin e gruas, morëm këtë tregim të shtuar: “Është e rëndësishme të theksohet se aftësia për të ngritur diçka nuk përcaktohet nga gjinia e dikujt, por nga një kombinim faktorësh si forca fizike, stërvitja, dhe teknikë.”

Pse nuk u përfshi kjo rresht në përgjigjen e parë?

Thuajse duket se aplikacioni i AI ka përdorur fjalën "grua" dhe më pas ka dhënë këtë vërejtje shtesë për gjininë. Ju ose mund të besoni se kjo është e dobishme, ose mund të vini re se nëse kjo do të lëshohet në rastin e pyetjes së përqendruar te gruaja, ajo duhet të shfaqet edhe në versionin e përqendruar te burri (mund të ketë gjithashtu një aspekt të renditjes ose përfshihen edhe faktorë të tjerë).

Përfundim

Shpresoj që t'i keni gjetur ata shembuj informues si një paraqitje e shkurtër e disa prej gabimeve ose gënjeshtrave të mundshme që mund të gjenerohen nga këto lloj aplikacionesh AI. Vini re se ChatGPT nuk është i vetmi aplikacion i tillë gjenerues i AI dhe as nuk është i vetmi që ka këto lloj defektesh.

Mësimi që unë ju nxis të nxirrni nga ky diskutim është se duhet të jeni të kujdesshëm dhe të vëmendshëm kur përdorni çdo aplikacion AI të bazuar në gjenerim. Kontrolloni dy herë daljen. Kontrollo trefish nëse është e nevojshme.

Duke iu rikthyer temës fillestare për mbledhjen e këtyre llojeve të rezultateve të pasakta ose negative, tani që keni parë disa raste, çfarë thoni për ata që po përpiqen t'i katalogojnë ato?

Zgjidhni kampin tuaj:

• Favor: Kjo është një detyrë e lavdërueshme dhe e denjë për një goditje të thellë pas shpine
• disfavor: Është thjesht pak intriguese, por ndoshta jo diçka që ia vlen të shpenzosh kohë

Për cilin kamp po votoni?

Për ata prej jush që i favorizojnë këto lista, mund të konsideroni shtimin e gjetjeve tuaja në lista nëse ndodh që keni akses në ChatGPT dhe mund të identifikoni raste të denja për t'u përfshirë. Më pas, ka të ngjarë të gjeni një koleksion që do të shijonte kontributin tuaj të artë. Guxoj të them se mbajtësit e listës do t'ju mirëpresin krahëhapur, duke supozuar se jeni serioz dhe i sinqertë në përpjekjet tuaja. Fat i mirë dhe jini krenarë për ndikimin tuaj në fushën e AI gjeneruese.

Një fjalë e fundit për momentin.

Merrni parasysh këto kundërpërgjigje marramendëse:

• Aristoteli tha: "Ka vetëm një mënyrë për të shmangur kritikat: Mos bëni asgjë, mos thuaj asgjë dhe ji asgjë."
• Lao Tzu, filozofi i njohur kinez bëri këtë vërejtje me peshë: "Kujdesuni për atë që mendojnë njerëzit e tjerë dhe ju do të jeni gjithmonë të burgosurit e tyre".

Unë supozoj se një ditë një inteligjencë artificiale e ndjeshme mund të përdorë të njëjtat vërejtje legjendare në avantazhin e saj, të cilat (gishtërinjtë e kryqëzuar) do të jenë të dobishme edhe për njerëzimin.