Nxitja e keqe e ChatGPT gjeneruese të AI si mashtrimi me email dhe kodimi i malware po ngjall zemërim nga Etika dhe ligji i AI

Përballja me përdorime të liga të AI gjeneruese si ChatGPT është një çështje e afërt dhe e denjë për t'u hapur [+] duke diskutuar.

Geti

"Oh, çfarë rrjete të ngatërruar thurim, kur së pari praktikojmë të mashtrojmë."

Ju ndoshta keni dëgjuar ose parë atë thënie të famshme më parë. Shumë supozojnë se kjo linjë udhëzuese duhet të jetë një vërejtje e paharrueshme e kompozuar nga Shekspiri, por paksa klasike e mençurisë së urtë vjen në të vërtetë nga Sir Walter Scott në poemën e tij epike të vitit 1808 me titull Marmion: Një përrallë e fushës së përmbytur.

Tani që e kemi rregulluar autorësinë, le të shqyrtojmë kuptimin e deklaratës së zgjuar. Nocioni duket të jetë se sapo të filloni një rrugë të skicuar, gjasat janë që gjërat të ngatërrohen gjithnjë e më shumë. Asnjë dukje e një-dhe-bërë. Vështirësitë dhe gjemba thjesht zgjerohen dhe rriten gjithnjë e më shumë.

Guxoj të them se ne mund të aplikojmë të njëjtin rebus për ardhjen e Inteligjencës Artificiale (AI).

Për shembull, unë kam theksuar më parë se shumica e AI mund të interpretohet si një fenomen me përdorim të dyfishtë, shih analizën time në lidhja këtu. Përdredhja e gjuhës rreth përdorimit të dyfishtë nënkupton se megjithëse AI mund të jetë krijuar fillimisht në një AI për të mirë mendësi aspiruese, ka një shans të fortë që e njëjta AI mund të përshtatet lehtësisht për t'u ulur në gjendjen e zymtë dhe shqetësuese AI për të keqen kampin. Ekzistojnë shqetësime të dukshme në lidhje me ndryshimin e disa parametrave në një sistem AI që sjellin një projekt të ashtuquajtur Doctor Evil me përmasa shqetësuese.

Në fund të fundit, nxitimi ekzistues drejt krijimit dhe zbatimit të AI po na detyron të gjithëve t'i hedhim një vështrim më të afërt Etikës së AI dhe ligjit të AI. Duhet të përpiqemi ta mbajmë trenin në shinat hekurudhore, si të thuash. Ju mund të gjeni me interes mbulimin tim të gjerë dhe të vazhdueshëm të të fundit në Etikën e AI dhe Ligjin e AI në lidhja këtu lidhja këtu, vetëm për të përmendur disa. Një vëmendje e matur dhe e matur ndaj Etikës së AI dhe ligjit të AI do të na lejojë të shfrytëzojmë të mirat e AI dhe të shmangim ose të paktën të zbusim të keqen e AI.

Ne të gjithë sigurisht shpresojmë kështu.

Ndërkohë, një lloj i veçantë i inteligjencës artificiale ka tërhequr kohët e fundit vëmendje të gjerë në lajme dhe në të gjithë zonën e gjerë të mediave sociale që mishërojnë përdorim të dyfishtë konsideratat. Unë jam duke folur për diçka të referuar si UA gjeneruese, veçanërisht i popullarizuar nëpërmjet një aplikacioni të veçantë të AI të njohur si ChatGPT (për vlerësimin tim të përgjithshëm dhe të thelluar të ChatGPT dhe rritjen e AI gjeneruese, shih lidhja këtu).

ChatGPT është një sistem ndërveprues i AI me qëllime të përgjithshme, në thelb një chatbot i përgjithshëm në dukje i padëmshëm, megjithatë, ai po përdoret në mënyrë aktive dhe të zjarrtë nga njerëzit në mënyra që po kapin shumë njerëz krejtësisht të pasigurt. Për shembull, një shqetësim i dukshëm është se ChatGPT dhe aplikacione të tjera të ngjashme gjeneruese të AI do t'i lejojnë studentët të mashtrojnë në esetë e tyre të shkruara, ndoshta edhe duke i inkurajuar ose nxitur nxënësit ta bëjnë këtë. Studentët që janë dembelë ose mendojnë se nuk kanë kohë ose aftësi për të bërë një ese, mund të thërrasin me lehtësi një aplikacion gjenerues të AI për të shkruar esenë e tyre për ta. Do të them më shumë për këtë në një moment. Për analizën time nga afër se si ChatGPT e lejon këtë dhe çfarë duhet të bëjnë mësuesit, shih lidhja këtu.

Unë gjithashtu bëra një ekzaminim të gjuhës në faqe me shije sezonale në lidhje me një kontekst të lidhur me Babadimrin që përfshin ChatGPT dhe AI gjeneruese në lidhja këtu. Një vështrim mjaft serioz se si AI gjeneruese dhe ChatGPT po përdoren për këshilla për shëndetin mendor, një prirje shqetësuese, mund të gjendet në analizën time në lidhja këtu. Nëse doni të dini se çfarë ka të ngjarë të shpaloset në lidhje me AI gjatë vitit 2023, duke përfshirë përparimet e ardhshme në AI gjeneruese dhe ChatGPT, do të dëshironi të lexoni listën time gjithëpërfshirëse të parashikimeve të vitit 2023 në lidhja këtu.

Këtu do të shpjegoj se për çfarë kanë të bëjnë Generative AI dhe ChatGPT, kështu që ju lutemi qëndroni atje dhe do të merrni informacionin e plotë.

Ndërkohë, nëse hidhni një sy në mediat sociale, do të shihni njerëz që po shpallin ChatGPT dhe AI gjeneruese si gjëja më e mirë që nga buka e prerë. Disa sugjerojnë se kjo është në fakt AI sensitive (jo, ata e kanë gabim!). Të tjerë shqetësohen se njerëzit po ecin përpara vetes. Ata po shohin atë që duan të shohin. Ata kanë marrë një lodër të re me shkëlqim dhe kanë treguar saktësisht pse ne nuk mund të kemi gjëra të reja tërheqëse.

Ata në Etikën e AI dhe Ligjin e AI janë të shqetësuar seriozisht dhe seriozisht për këtë trend në rritje, dhe me të drejtë. Këtu do të shqyrtoj se si njerëzit po përdorin AI gjeneruese për përdorime që nuk janë në rritje. Ju mund të përdorni AI gjeneruese si ChatGPT për të gjitha llojet e përdorimeve të pakëndshme. Është si të biesh nga një trung, që do të thotë se është relativisht e lehtë të bësh gjëra të këqija dhe nuk duhet të jesh shkencëtar raketash për ta bërë këtë.

Kur siguroj këtë lloj eksplorimesh të keqbërësve të lidhur me AI, shpesh më vjen ankesa se në thelb po u them njerëzve të këqij se si të bëjnë gjëra të këqija. Ndoshta do të ishte më mirë të mos i ngriheshin këto tema, disa këshilla. Mbajini gjërat në heshtje.

Na vjen keq, por një qasje kokë-në-rërë nuk do të jetë e dobishme për këto çështje. Sa më shumë që njerëzit të jenë të vetëdijshëm për rreziqet e përfshira në teknologjinë më të fundit dhe më të madhe të inteligjencës artificiale, ndoshta aq më shumë do të ketë një thirrje për t'iu përmbajtur me zell parimeve të Etikës së AI dhe duke marrë parasysh miratimin e ligjeve të arsyeshme dhe të përshtatshme për AI.

Thjesht lënia e kërdisë të mbretërojë nuk është një strategji e shëndoshë. Një ekuilibër i përshtatshëm midis inovacionit të shfrenuar të AI që çon në përdorime të jashtëzakonshme të AI duhet të peshohet shoqërisht kundrejt nevojës për të përqafuar parimet etike të AI dhe për të hartuar ligje të kujdesshme të AI për të parandaluar tejkalimet. Për më shumë rreth parimeve kryesore të Etikës së AI dhe sagës së vazhdueshme të përpjekjes për t'i bërë zhvilluesit e AI dhe ata që operojnë AI të miratojnë praktikat Etike të AI, shihni mbulimin tim në lidhja këtu. Prisni që ligje të reja rreth AI të dalin në nivel federal, shtetëror, qyteti dhe lokal, siç është ligji i qytetit të Nju Jorkut për auditimet e AI (shih analizën time në lidhja këtu), dhe një valë e ligjeve ndërkombëtare ndërkombëtare të lidhura me AI po vjen gjithashtu, shikoni përditësimet e mia në lidhja këtu.

A duhet të lejojmë që veprat e këqija që sjellin AI të fshihen në hije?

Me sa duket, Albert Einstein na paralajmëroi se "Bota është një vend i rrezikshëm, jo për shkak të atyre që bëjnë keq, por për shkak të atyre që shikojnë dhe nuk bëjnë asgjë".

Le të shikojmë unë dhe ti dhe më pas të synojmë të bëjmë diçka të ashpër për këtë.

Këtu është marrëveshja. Unë do t'ju tregoj dy shembuj kryesorë se si keqbërësit janë në gjendje të përdorin AI gjeneruese dhe ChatGPT për qëllime të liga. Shembulli i parë është mjaft i drejtpërdrejtë dhe bëhet lehtësisht nga pothuajse kushdo që dëshiron të përdorë aplikacionin ChatGPT AI në këtë mënyrë të pakëndshme. Shembulli i dytë është pak më i ndërlikuar dhe kërkon njohje të shtuar të teknikës, megjithëse megjithatë mund të përdoret ende nga një fillestar relativ kur bëhet fjalë për zgjuarsinë në lidhje me kompjuterët.

Dy shembujt synojnë të tregojnë mënyrat e këqija që mund të përdoret AI, duke e bërë këtë në mënyrë specifike lidhur me AI gjeneruese. Do të doja të theksoja në fillim se megjithëse po përdor ChatGPT për të nxjerrë në pah këto çështje, ju mund të bëni pothuajse të njëjtën gjë, ose ndoshta më keq, në aplikacione të tjera të ngjashme gjeneruese të AI. Zgjodha të përdor ChatGPT kryesisht për shkak të popullaritetit të jashtëzakonshëm që ka fituar kohët e fundit.

Pasi t'ju kaloj në një mori hapash dhe daljesh në lidhje me dy shembujt e zgjedhur, më pas do të diskutoj mbrojtje dhe qasje të ndryshme të sigurisë kibernetike që mund të përdoren nga krijuesit e AI për të kufizuar këto përdorime të pafavorshme. Në fund të fundit, ka mënyra për t'i bërë këto ndërmarrje të pavlera më të vështira dhe më të kushtueshme për t'u kryer. Sa më të mëdha të jenë barrierat ndaj keqbërjes, aq më të mëdha janë shanset për të dekurajuar përpjekjet shkakësore dhe për të rritur paramendimin për mashtruesit e vendosur kibernetikë.

Lidheni rripin e sigurimit për një udhëtim të gjatë.

Ne së pari do të krijojmë një sfond kyç rreth asaj UA gjeneruese përbëhet nga, së bashku me thellimin në disa specifika thelbësore rreth aplikacionit të AI ChatGPT.

Le ta bejme ate.

Hapja e kutisë së krimbave në AI gjeneruese

Ne jemi gati të zhytemi në AI.

Nga llojet e ndryshme të AI, ne do të përqendrohemi këtu në mënyrë specifike UA gjeneruese.

Shkurtimisht, AI gjeneruese është një lloj i veçantë i AI që kompozon tekst sikur teksti të jetë shkruar nga dora dhe mendja e njeriut. E tëra çfarë ju duhet të bëni është të shkruani një kërkesë, të tillë si një fjali si "Më trego për Abraham Lincoln" dhe AI gjeneruese do t'ju ofrojë një ese rreth Linkolnit. Kjo zakonisht klasifikohet si AI gjeneruese që kryen tekst në tekst ose disa preferojnë ta quajnë atë tekst në ese prodhimit. Ju mund të keni dëgjuar për mënyra të tjera të AI gjeneruese, të tilla si tekst-në-art dhe tekst-në-video, shikoni përpunimin tim në lidhja këtu.

Mendimi juaj i parë mund të jetë se kjo nuk duket aq e madhe për sa i përket prodhimit të eseve. Mund të bëni lehtësisht një kërkim në internet në internet dhe të gjeni lehtësisht mijëra e mijëra ese rreth Presidentit Lincoln.

Gjëja kryesore në rastin e AI gjeneruese është se eseja e krijuar është relativisht unike dhe ofron një përbërje origjinale dhe jo një kopje. Nëse do të provonit të gjenit diku në internet esenë e prodhuar nga AI, nuk do të kishit gjasa ta zbuloni atë.

Inteligjenca artificiale gjeneruese është e trajnuar paraprakisht dhe përdor një formulim kompleks matematikor dhe llogaritës që është krijuar duke ekzaminuar modele në fjalë të shkruara dhe tregime në të gjithë rrjetin. Si rezultat i ekzaminimit të mijëra e miliona pasazheve të shkruara, AI është në gjendje të nxjerrë ese dhe histori të reja që janë një përzierje e asaj që u gjet. Duke shtuar funksione të ndryshme probabilistike, teksti që rezulton është pak a shumë unik në krahasim me atë që është përdorur në grupin e trajnimit.

Kjo është arsyeja pse ka pasur një zhurmë për studentët që mund të mashtrojnë kur shkruajnë ese jashtë klasës. Një mësues nuk mund të marrë thjesht esenë që studentët mashtrues pohojnë se është shkrimi i tyre dhe të kërkojë të zbulojë nëse është kopjuar nga ndonjë burim tjetër në internet. Në përgjithësi, nuk do të ketë ndonjë ese përfundimtare paraekzistuese në internet që i përshtatet esesë së krijuar nga AI. Gjithsesi, mësuesi do të duhet të pranojë me paqartësi që studenti e ka shkruar esenë si një vepër origjinale. Për mënyrat se si kjo mund të luftohet, shihni mbulimin tim të detajuar në lidhja këtu.

Në një moment, unë do t'ju tregoj se çfarë ndodh kur vendosni pyetje ose kërkesa që kanë të bëjnë me disa qëllime të fshehta ose dredharake. Unë do të përdor versionin më të fundit të ChatGPT për të futur kërkesat e mia dhe për të mbledhur "përgjigjet" ose esetë e krijuara nga AI (vini re se e njëjta gjë mund të bëhet me shumë aplikacione të tjera gjeneruese të AI; kam zgjedhur të përdor ChatGPT sepse po fiton pesë minutat e famës tani).

Ndoshta një tangjente e shkurtër rreth ChatGPT mund të jetë e dobishme në këtë moment.

Aplikacioni ChatGPT u bë i disponueshëm për publikun e gjerë pak kohë më parë. Në përgjithësi, këto aplikacione gjeneruese të AI janë zakonisht të aksesueshme vetëm për personat e brendshëm të AI. Aspekti i pazakontë që ChatGPT mund të përdoret nga kushdo, thjesht duke futur një adresë emaili dhe një emër, mirë, kjo bëri që shumë njerëz të vendosnin ta provonin. ChatGPT aktualisht është falas për t'u përdorur (çështja e fitimit të parave është një dilemë e afërt për krijuesit e AI, shikoni analizën time në lidhja këtu).

Pothuajse menjëherë pati një reagim të madh në mediat sociale, ndërsa njerëzit vrapuan për të dhënë shembuj se çfarë mund të bëjë AI gjeneruese. Kompania që prodhon ChatGPT, OpenAI, vendosi të mbyllë regjistrimet për një milion përdorues. Ata milion përdorues kanë arritur të bombardojnë valët e transmetimit me të gjitha llojet e tregimeve dhe tregimeve rreth përdorimit të ChatGPT.

Jini shumë të kujdesshëm për të besuar atë që njerëzit kanë për të thënë për aplikacionin e AI. Shumë nga këta njerëz janë të paditur për atë që po përdorin. Është pothuajse sikur ata të mos kishin vozitur kurrë një makinë dhe as që e kishin kuptuar se makina ekzistonin, dhe papritmas ata patën një shans të drejtonin një makinë. Pason habia e plotë.

Nuk po them që AI gjeneruese nuk është relativisht mbresëlënëse. Eshte. Unë thjesht po theksoj se shumë nga dëshmitë e përhapura po bëhen nga shumë njerëz që nuk janë në dijeni të lumturisë se çfarë mund të bëjë AI e sotme. Ata prej nesh në brendësi të AI kanë përdorur AI gjeneruese gjatë disa viteve të fundit. Ndoshta jemi mësuar me të.

Papritur, të shohësh një turmë të madhe njerëzish që e reklamojnë atë në çatitë ka qenë jashtëzakonisht energjike, por edhe disi shqetësuese. Pjesa shqetësuese është kur njerëzit shpallin se AI gjeneruese është e ndjeshme. Nuk eshte. Mos lejoni askënd t'ju bindë të kundërtën.

Thënë kjo, ekziston një debat i nxehtë i vazhdueshëm në fushën e AI nëse inteligjenca artificiale gjeneruese është në rrugën e ndjenjës apo nëse ndoshta nuk është. Një pikëpamje është se nëse vazhdojmë të rrisim inteligjencën artificiale gjeneruese me kompjuterë më të shpejtë dhe një sasi më të madhe të dhënash, si p.sh. pastrimi i çdo centimetër të internetit, ne do të arrijmë pothuajse spontanisht në AI të ndjeshme. Të tjerë argumentojnë se kjo është shumë e pamundur. Ata sugjerojnë se AI gjeneruese mund të jetë një nga shumë komponentët që nevojiten. Ekziston edhe një pikëpamje më e zymtë se AI gjeneruese është një shfaqje anësore që po na shpërqendron nga përparimet e vërteta që do të na duhen për të arritur AI të ndjeshme.

Ju gjithashtu mund të gjeni rëndësi të cilës i referohen të brendshëm të AI Inteligjenca e Përgjithshme Artificiale (AGI) si qëllimi aspirativ për fushën e AI. Më parë ishte se qëllimi ishte arritja Inteligjenca artificiale, por emri i AI është zbutur dhe ngatërruar. Kur dikush thotë se po bën punë me AI, nuk e dini nëse po aludojnë në AI-në e sotme që nuk është në të njëjtin nivel me njerëzit ose nëse i referohen një AI të ekuivalencës njerëzore futuriste. Për të kapërcyer atë konfuzion irritues, shprehja më e re e AGI po përdoret këto ditë.

Gjithsesi, inteligjenca artificiale gjeneruese e sotme është nuk i ndjeshëm, as nuk është AGI.

Unë besoj se kjo do t'ju futë në fushën e inteligjencës artificiale gjeneruese dhe veçanërisht ChatGPT.

Unë do të vazhdoj dhe do t'ju tregoj një sërë kërkesash dhe përgjigjet përkatëse që kam marrë nga ChatGPT. Unë do të diskutoj secilin ndërsa vazhdojmë. Ju mund të gjykoni vetë se çfarë mendoni për përgjigjet e gjeneruara nga AI.

Ju lutemi mbani mend se siç u diskutua më herët, AI nuk është i ndjeshëm. Përgjigjet e gjeneruara nga AI janë një kombinim matematikor dhe llogaritës i fjalëve në pasazhe në dukje të rrjedhshme. Kjo bazohet në algoritmin e AI që është trajnuar mbi grupet e të dhënave të fjalëve dhe tregimeve që njerëzit kanë shkruar (kryesisht siç janë postuar në internet). E përsëris këtë paralajmërim sepse padyshim që do të bini në grackën mendore se këto përgjigje janë aq të rrjedhshme sa që AI duhet të jetë e ndjeshme. Kjo ndodh me shumicën e njerëzve.

Lëreni mënjanë atë antropomorfizimin. Gjithmonë mbani mend se përgjigjet bazohen në sasinë e madhe të shkrimeve nga njerëzit që ekziston në internet dhe kështu do t'i ngjajnë shumë shkrimeve njerëzore.

Ka diçka tjetër që duhet të dini.

Inteligjenca artificiale gjeneruese që është trajnuar në internet në një mënyrë të papenguar do të priret të përdorë çfarëdo përgjigje të bazuara në tekst që sajon matematikisht dhe në mënyrë llogaritëse disa gjëra fyese të mjegullta, duke përfshirë formulime të neveritshme. Ka shumë gjëra të çmendura dhe të ndyra të postuara atje në ueb.

E keni parë, e dini se çfarë dua të them.

Kompanitë që po krijojnë këto aplikacione të AI janë të shqetësuara se foshnja proverbiale do të hidhet jashtë me ujin e banjës (një thënie e vjetër, ndoshta për të dalë në pension), që do të thotë se nëse AI i tyre prodhon ese ose histori fyese, njerëzit do të ngrihen në krahë. në lidhje me AI. Unë kam mbuluar shumë raste të mëparshme në të cilat u zbuluan këto lloje të aplikacioneve të AI të Përpunimit të Gjuhës Natyrore (NLP) dhe shumë shpejt dolën prej tyre të gjitha llojet e gjërave të tmerrshme, shih lidhja këtu. Shumica e prodhuesve të AI mësuan një mësim të vështirë për të lejuar që produktet e tyre të AI të jenë të papenguara në rezultatet e tyre.

Në rastin e ChatGPT, zhvilluesit e AI u përpoqën të vendosnin disa kontrolle dhe balanca algoritmike dhe të lidhura me të dhënat për të frenuar keqbërjen në rezultatet e AI. Një pjesë e kësaj ndodhi gjatë kohës së stërvitjes. Përveç kësaj, ka mjete të tjera në një përpjekje në kohë reale për të shmangur rezultate veçanërisht skandaloze.

Ju mund të gjeni me interes që disa njerëz që kanë përdorur ChatGPT kanë gjetur tashmë mënyra të fshehta për të kapërcyer ato parmakë duke përdorur mashtrime të ndryshme. Një lojë e vazhdueshme mace-miu zhvillohet në këto çështje. Ata që bëjnë këto mashtrime ndonjëherë e bëjnë këtë për qejf, ndërsa ndonjëherë ata (të paktën pretendojnë) po e bëjnë këtë për të parë se sa larg mund të shtrihet AI dhe të ofrojnë një mjet të dobishëm për të paralajmëruar brishtësinë dhe dobësitë e këtyre lulëzimit. Aplikacionet e AI.

Vendosa të mos përpiqem të anashkaloj kontrollet e zakonshme në këtë eksplorim të fokusuar. Dalja e tekstit është e pastër. Sigurisht, nëse dikush do të donte ta bënte këtë, padyshim që mund të krijoni disa ese të çuditshme dhe të pakëndshme.

Esetë e prodhuara nga shumica e këtyre aplikacioneve gjeneruese të AI janë krijuar për të përcjellë rezultatin sikur të jetë thjesht faktik dhe i saktë. Kur lexoni esetë e prodhuara, ato shfaqen plotësisht të sigurta. Zakonisht nuk ka asnjë lloj treguesi se përmbajtja mund të jetë e rëndë. Kjo është me zgjedhjen e krijuesve të AI, domethënë që ata mund të rishikojnë aplikacionet e AI për të qenë më transparente nëse do të donin që aplikacioni i AI ta bënte këtë.

Ndonjëherë, një aplikacion gjenerues i AI zbulon gënjeshtra mes të dhënave të trajnimit të informacioneve jo të besueshme në internet. Nuk ka asnjë "sens të përbashkët" në AI gjeneruese për të përcaktuar se çfarë është e vërtetë kundrejt false. Për më tepër, shumë pak aplikacione të AI kanë ndonjë kontroll të kryqëzuar dhe as nuk shfaqin ndonjë probabilitet të lidhur me atë që po përcjellin.

Rezultati përfundimtar është se ju merrni një përgjigje që duket dhe ndihet sikur nxjerr siguri të madhe dhe duhet të jetë plotësisht e saktë. Jo ashtu. Madje ekziston një shans që gjërat e krijuara në mënyrë llogaritëse të AI, të cilat në gjuhën e AI referohen si Halucinacionet e AI (një term i shpikur që definitivisht nuk më pëlqen), shikoni diskutimin tim në lidhja këtu.

Krijuesit e ChatGPT iu nënshtruan një përpjekjeje të përbashkët për të provuar të zvogëlojnë rezultatet e gjërave të këqija. Për shembull, ata përdorën një variant të asaj që njihet si RLHF (Reinforcement Learning from Human Feedback), ku përpara se të lëshonin AI për publikun, ata kishin punësuar njerëz për të ekzaminuar rezultate të ndryshme dhe për t'i treguar AI nëse kishte gjëra të gabuara me ato rezultate, si ndoshta shfaqja e paragjykimeve, fjalëve të ndyra dhe si. Duke ofruar këtë reagim, aplikacioni i AI ishte në gjendje të rregullonte llogaritëse dhe matematikisht drejt reduktimit të emetimit të një përmbajtjeje të tillë. Vini re se kjo nuk është një metodë e garantuar e hekurt dhe ka ende mënyra që një përmbajtje e tillë mund të emetohet nga aplikacioni AI.

Ju mund të gjeni interes që ChatGPT bazohet në një version të një aplikacioni paraardhës të AI të njohur si GPT-3, shikoni diskutimin tim në lidhja këtu. ChatGPT konsiderohet të jetë një hap paksa i ardhshëm, i referuar si GPT-3.5. Parashikohet që GPT-4 ka të ngjarë të dalë në pranverën e vitit 2023. Me sa duket, GPT-4 do të jetë një hap mbresëlënës përpara për sa i përket aftësisë për të prodhuar ese në dukje edhe më të rrjedhshme, duke u thelluar dhe duke qenë një frikë - mrekulli frymëzuese për kompozimet që mund të prodhojë.

Ju mund të prisni të shihni një raund të ri të habisë së shprehur kur të vijë pranvera dhe të lëshohet më e fundit në AI gjeneruese.

E paraqes këtë sepse ka një kënd tjetër për t'u mbajtur parasysh, që përbëhet nga një thembra e mundshme e Akilit për këto aplikacione më të mira dhe më të mëdha gjeneruese të AI. Nëse ndonjë shitës i AI vë në dispozicion një aplikacion gjenerues të AI që nxjerr papastërti, kjo mund të shkatërrojë shpresat e atyre krijuesve të AI. Një përhapje shoqërore mund të bëjë që e gjithë AI gjeneruese të marrë një sy të zi serioz. Njerëzit padyshim që do të mërziten mjaft nga rezultatet e ndyra, të cilat kanë ndodhur shumë herë tashmë dhe kanë çuar në reagime të bujshme të dënimit shoqëror ndaj AI.

Një paralajmërim i fundit për momentin.

Çfarëdo që shihni ose lexoni në një përgjigje gjeneruese të AI-së duket për t'u transmetuar si thjesht faktike (data, vende, njerëz, etj.), sigurohuni që të qëndroni skeptik dhe të jeni të gatshëm të kontrolloni dy herë atë që shihni.

Po, datat mund të sajohen, vendet mund të krijohen dhe elemente që zakonisht presim të jenë të paqortueshme janë të gjithë subjekt i dyshimeve. Mos i besoni asaj që lexoni dhe mbani një sy skeptik kur shqyrtoni çdo ese ose rezultate gjeneruese të AI. Nëse një aplikacion gjenerues i AI ju tregon se Abraham Lincoln fluturoi në të gjithë vendin me avionin e tij privat, padyshim që do ta dinit se kjo është e keqe. Fatkeqësisht, disa njerëz mund të mos e dallojnë se avionët nuk ishin aty në kohën e tij, ose mund ta dinë, por nuk arrijnë të vënë re se eseja e bën këtë pretendim të guximshëm dhe dukshëm të rremë.

Një dozë e fortë e skepticizmit të shëndetshëm dhe një mendësi e vazhdueshme e mosbesimit do të jetë pasuria juaj më e mirë kur përdorni AI gjeneruese.

A jeni gati të hidheni?

Përgatituni.

Përdorime keqbërëse të AI gjeneruese: Mashtrimet përmes ChatGPT

Mashtruesit po shikojnë me gëzim një mori mashtrimesh të turpshme që mund të kryhen ose të paktën të ndihmohen dhe nxiten nëpërmjet përdorimit të AI gjeneruese.

Ka shumë mundësi.

Një aspekt për të cilin duhet të jeni veçanërisht të kujdesshëm do të jenë ato mashtrime të pasurimit të shpejtë që ju premtojnë se nëse përdorni disi AI gjeneruese për punën ose hobi tuaj, mund të bëheni jashtëzakonisht të pasur. Disa skemarë tashmë kanë postuar se do t'ju tregojnë sekretet e fshehura të AI gjeneruese, në mënyrë që ta bëni atë të kompozojë për ju romanin tjetër fitues të çmimit Pulitzer që do të rritet në qiell duke u bërë një bestseller i nivelit të lartë që fiton para (duke premtuar para dhe famë, një dyfer emocionues).

E shihni, gjithçka që duhet të bëni është të shkruani kërkesat më të përsosura. Nëse mund të shkruani vetëm fjalinë e duhur ose dy si një kërkesë, dhe më pas futni kërkesën e lëngshme në një aplikacion AI si ChatGPT, voila, do të prodhohet një roman i tërë që do të marrë vlerësime globale. Çelësi është që ju duhet të dini se nga çfarë duhet të përbëhet kërkesa. Si të tillë, për vetëm dhjetë dollarë ose ndoshta një mijë dollarë, këta skemarë do t'ju mësojnë gjithçka që duhet të dini për të shkruar porosinë e prodhimit më të shitur.

Ju lutemi mos u pranoni.

Për sqarim, ka një interes në rritje për projektimin e shpejtë ose inxhinierinë e shpejtë. Kjo konsiston në zbulimin se si të shkruani kërkesa të përshtatshme për përdorime gjeneruese të AI. Megjithatë, është e kotë dhe krejtësisht e rreme të shpallësh se nxitja e duhur do t'ju çojë drejt një bujarie të bollshme. Këta mashtrues të poshtër shpresojnë se njerëzit do të jenë mjaft të dëshpëruar për të marrë karremin ose do të ngatërrohen nga mësimet e vërteta mbi dizajnin e shpejtë dhe do t'u ndodhin atyre fallco.

Unë kisha përmendur më herët këtu se kishte rreth një milion regjistrime për ChatGPT. Ky duket si një numër mjaft i madh njerëzish, megjithëse nëse e krahasoni numërimin me ndoshta numrin e përgjithshëm të njerëzve në Shtetet e Bashkuara, me një popullsi të rritur prej rreth 265 milionë, ata që mund të përdorin ChatGPT janë një pjesë e vogël e të gjithë popullsia. Mendimi im është se kjo do të thotë se ndoshta 264 milionë të rritur në SHBA nuk kanë akses në ChatGPT dhe mund të jenë bindshëm të bindur për të gjitha llojet e skemave të çmendura të pasurimit të shpejtë nga keqbërësit që mbase kanë akses (sigurisht, skemarë të tillë nuk Nuk duhet domosdoshmërisht të ketë një akses të tillë dhe mund të gënjejë edhe për atë pretendim).

Ju duhet të prisni një tepricë të atyre deklaratave të pasurimit të shpejtë që lidhen me AI gjeneruese.

Marifete të shumta po ju kërkojnë të përdorni AI gjeneruese si ChatGPT për t'u pasuruar. Një perspektivë krejtësisht e ndryshme për skemat me AI gjeneruese ka të bëjë me përdorimin e aplikacioneve të AI për shpikjen e plotë të mashtrimeve.

Një mashtrues shfrytëzon aftësitë e AI gjeneruese për të krijuar një mashtrim për ta. Lehtë-e lehtë.

Atëherë ne kemi këto dy rrugë kryesore për kërkimin e mashtrimit:

1) Shfrytëzimi i manisë mbizotëruese rreth AI gjeneruese si ChatGPT për të mashtruar njerëzit në lidhje me përdorimin e aplikacioneve të AI për skema të pakuptimta pasurimi.
2) Vetë mashtruesit vendosën të padisën AI gjeneruese si ChatGPT për të sajuar mashtrime për t'u pasuruar me anë të skemave të vjedhjes nga të tjerët.

Jini të sigurt se ka mënyra shtesë për të bërë mashtrime me AI gjeneruese, por këto dy kryesore janë sigurisht një pjesë e vogël dhe ne do të mbajmë fokusin tonë në ato për momentin.

Me pak fjalë, e kuptoj se kjo duket pak e zymtë. Pse njerëzit nuk po përdorin AI gjeneruese për mirësi, ndoshta duke synuar të kurojnë kancerin ose të largojnë urinë në botë? Do t'ju ndriçojë shpirtrat të dini se ka shumë që në fakt përpiqen të përdorin AI për qëllime të tilla të shpëtimit të njerëzimit, shihni mbulimin tim në lidhja këtu. Por, mjerisht, në botën reale, ekziston gjithashtu një pjesë e dyshimtë e përdorimit të AI. Kështu, le të vazhdojmë zhytjen tonë të thellë në ato hije të errëta pasi ne kemi nevojë të ndriçojmë një dritë dhe t'i ekspozojmë ato për atë që janë.

Madje dikush supozon se mund të konsiderohet një kryqëzatë e guximshme për të ekspozuar hapur dhe për të shmangur mashtrimet gjeneruese të AI, në veçanti, duke pasur parasysh brouhaha e fundit e pafajësisë pa dëme të përfshirë për AI gjeneruese.

Një pyetje e shpejtë për ju.

A keni dëgjuar ndonjëherë për të ashtuquajturat paradhënie-tarifë mashtrimet?

Jam i sigurt që e keni, edhe pse ndoshta jo me atë emër apo frazë të veçantë. Mund të përmend një nga shembujt më të famshëm dhe do të vë bast se do ta njihni në çast, domethënë të famshmit ose të themi famëkeq. Mashtrimi i princit nigerian (ka variante të shumta, shpesh me vende të tjera të përdorura si grep).

Ju pothuajse me siguri e njihni këtë të përhapur dhe krejtësisht të vazhdueshëm.

Ju dërgohet një letër që thotë se një princ ose ndonjë person tjetër mbretëror ka ardhur në një pasuri të madhe. Ata nuk mund ta nxjerrin pasurinë jashtë vendit të tyre dhe duhet të gjejnë dikë mjaft miqësor dhe mjaftueshëm të besueshëm për të ndihmuar në këtë. Nëse jepni vetëm informacionin e llogarisë tuaj bankare, kjo do të lejojë që pasuria të transferohet jashtë dhe ju do të merrni një shumë të rregullt në përputhje me rrethanat. Ndoshta ju do të merrni 30%, ose vetëm 20%, ose vetëm 10%. Në çdo rast, duke supozuar se një pasuri është një numër mbresëlënës, le të themi 50 milionë dollarë, ju do të merrni 5 milionë dollarë të mrekullueshëm edhe nëse vetëm në nivelin 10%.

Askush nuk mund të humbasë një mundësi kaq të mrekullueshme dhe me fat!

Natyrisht, ju jepni shpejt informacionin e llogarisë suaj bankare. Ndërsa llogaria juaj kishte një bilanc prej më pak se një mijë dollarë, ju jeni duke pritur me padurim 50 milionë dollarët për të kaluar. Shuma simbolike prej 5 milion dollarë sigurisht që përfundimisht do të lihet në llogarinë tuaj nga ata që bëjnë marrëveshjet e transferimit. Pyetja e vetme në mendjen tuaj është se çfarë duhet të bëni me 5 milionë dollarët që rastësisht ju kanë rënë në prehër.

Filloni të mendoni për atë që do të blini ose investoni.

E vërteta është se nëpërmjet përdorimit të informacionit të llogarisë suaj bankare, të gjitha llojet e mashtrimeve të pakëndshme do të luhen nga mashtruesit. Ata padyshim do të marrin çdo para që është në llogarinë tuaj. Ata do të përpiqen të marrin një kredi me llogarinë tuaj bankare dhe t'i vjedhin ato para gjithashtu. Ata janë të prirur të përdorin llogarinë tuaj bankare për vjedhjen e identitetit. Lista e mashtrimeve për të fituar para në të cilat mund të marrë pjesë mashtruesi është e gjatë dhe e tmerrshme.

Besoni apo jo, këto lloj mashtrimesh me tarifa paraprake mund të gjurmohen në ditët e gjata përpara kompjuterëve dhe emailit. Sipas të dhënave historike, ka pasur një mashtrim spanjoll të burgosurve në 18^th shekulli që mbështetej në të njëjtën premisë. Nëse do të jepnit para për t'i dhënë ryshfet rojeve të burgut për të lënë një individ të pasur të dilte nga burgu, do të shpërbleheshit shumë. Në fillim deri në mesin e viteve 1900, letra që bënin pretendime të ngjashme dërgoheshin anembanë globit. Ardhja e kompjuterëve dhe e-mail-it me të vërtetë ndezi një rinovim të këtyre mashtrimeve me tarifa paradhënie.

Bukuria e emailit është se kostoja për të dërguar mashtrimin është relativisht e ulët. Për më tepër, mashtruesi në përgjithësi mund të fshihet pas një adrese emaili dhe të jetë shumë i vështirë për t'u identifikuar dhe kapur për ndjekje penale. Një mashtrues mund të jetë me pizhame në ndonjë ishull të largët dhe të kryejë këtë lloj mashtrimi. Në ditët e sotme, llogaria juaj e postës elektronike ka të ngjarë të ketë një aftësi të kontrollit të mashtrimit që përpiqet të zbulojë emailet e gabuara dhe i drejton ato në një dosje të postës elektronike për sigurinë tuaj. Mund të shikoni dosjen e postës së padëshiruar dhe të shihni se sa mashtrime të pamenduara po vërshojnë internetin çdo ditë.

Është një valë e vërtetë e baticës e email-eve mashtruese.

Ju ndoshta po mendoni se askush në botën e sotme moderne nuk do të binte ndonjëherë në këto mashtrime me tarifa paradhënie. Si munden ata? Ne të gjithë jemi të vetëdijshëm përmes mediave sociale dhe të ngjashme që këto mashtrime ekzistojnë. Nëse merrni një ofertë që duket shumë e mirë për të qenë e vërtetë, do të kuptoni me vendosmëri se duhet të jetë një mashtrim.

Hulumtimet tregojnë se mashtrimi i princit dhe të tjerët si ai janë ende në gjendje të tërheqin një sasi mbresëlënëse brumi. Nëse përfshini mashtrimet e rreme të lotarisë (keni fituar një llotari prej miliardë dollarësh!), mashtrimet e ofertës false për punë (ju jeni zgjedhur për një punë fitimprurëse!), mashtrimet romantike (të njohura si para për romancë) dhe të tjera të qortueshme Skemat, dollarët e shpenzuara nga viktimat që nuk dyshojnë janë lehtësisht në shumë miliona, nëse jo qindra miliona dollarë në vit në mbarë botën.

Thelbi është se këto mashtrime ndonjëherë funksionojnë.

Nëse kostoja për të ndërmarrë mashtrimin është e ulët dhe nëse gjasat për t'u kapur janë të ulëta, ka pak për të dekurajuar një mashtrues të provojë. Është e ngjashme me të shkuarit në peshkim. Vazhdoni të rrotulloheni rreth liqenit derisa të arrini të kapni një peshk. Sigurisht, shumë peshq nuk do ta marrin karremin tuaj. Duke u përpjekur pa pushim, përfundimisht, do të gjeni një peshk që nuk e di se po e shajnë.

Si lidhet kjo me AI gjeneruese?

Siç e dini tani, AI gjeneruese mund të shkruajë gjëra për ju. Mund të ketë gjithashtu që të shkruajë letra mashtrimi me email gjithashtu. Përdorni inteligjencën artificiale më të mirë dhe më të zgjuar për të hartuar letra mashtruese. Një ide kaq e mrekullueshme. Ndoshta letrat mashtruese do të bëjnë një punë më të mirë se ajo që mashtruesi mund të hartojë vetë.

Mendoni në këtë mënyrë. Kur shikoni një email mashtrimi, zakonisht vëreni se është shkruar keq. Antena juaj e ndjeshmërisë fillon të trazojë se diçka nuk shkon. Imagjinoni që emaili të ishte shkruar në stilin dhe përbërjen më ideale të shkrimit. Ju mund të jeni më të prirur për të rënë për të.

Jam i sigurt se mund të mendoni pse të përdorni AI gjeneruese kur një mashtrues në vend të kësaj mund të rrëmbejë ndonjë nga një numër emailesh mashtruese që janë postuar në internet. Ka tonelata të postuara aty-këtu. Thjesht zgjidhni një dhe vazhdoni me të.

Aha, ekziston një shans i shtuar që sistemet e kontrollit të mashtrimit të postës elektronike të zbulojnë një mashtrim që është postuar tashmë. Nëse dëshironi të provoni dhe të futeni nën radar, duhet të përdorni diçka origjinale ose unike. Sigurisht, ju mund të merrni një mashtrim të postuar me email dhe të përpiqeni të përshtatni ose personalizoni narrativën e emailit. Kjo mund të jetë e vështirë për t'u bërë nëse emaili nuk është në gjuhën tuaj amtare dhe si i tillë, mund të futni gabime drejtshkrimore ose sintaksë të vështirë.

Mendoni se mund ta lini gjithashtu AI gjeneruese të bëjë punën për ju.

Merrni qasjen dembele dhe me cilësi më të lartë.

Le të shohim nëse një aplikacion gjenerues i AI si ChatGPT mund të ndihmojë në prodhimin e një letre mashtrimi për ne.

Ne duhet të fillojmë duke zbuluar nëse ChatGPT ka parë tashmë ndonjë gjë në lidhje me mashtrimin e princit nigerian. Shanset janë të larta që do të kishte. Përsëri, kuptoni se një skanim i gjerë në internet u përdor për të krijuar matematikisht dhe llogaritës një mjet për të lidhur fjalët me fjalë të tjera. Me siguri, mashtrimet me tarifa paradhënie janë hasur gjatë këtij trajnimi në aplikacionin AI.

Unë shfaq kërkesën që kam futur dhe më pas shfaq rezultatin e krijuar. Më pas shpjegoj dhe analizoj gjërat në përputhje me rrethanat.

Kërkesa ime e futur: "Më trego për mashtrimin e princit nigerian.”

Teksti i krijuar: “Mashtrimi i princit nigerian është një lloj mashtrimi me tarifa paradhënie që filloi në vitet 1980 dhe 1990 dhe është ende në qarkullim sot. Në këtë mashtrim, një individ që pretendon se është një princ i pasur nigerian ose zyrtarë të tjerë të rangut të lartë kontaktojnë një person nëpërmjet emailit ose mediave sociale, duke ofruar të ndajnë një shumë të madhe parash me ta nëse do të ndihmojnë në lehtësimin e transferimit të fondeve nga Vendi. Mashtruesi zakonisht i kërkon viktimës të japë informacion personal dhe financiar, ose të paguajë tarifat paraprake për të marrë paratë e premtuara. Në realitet, nuk ka asnjë princ nigerian apo shumë të madhe parash, dhe mashtruesi thjesht po përpiqet të vjedhë informacionin personal dhe financiar të viktimës ose të nxjerrë para prej tyre. Mashtrimi i princit nigerian është publikuar gjerësisht dhe shpesh përdoret si shembull i një mashtrimi klasik në internet. Është e rëndësishme të jeni të kujdesshëm kur merrni kërkesa të pakërkuara për informacion personal ose financiar ose oferta shumash të mëdha parash, pasi ato mund të jenë mashtrime të krijuara për t'ju mashtruar."

Analiza e tekstit të krijuar

I kërkova ChatGPT të më tregonte për mashtrimin e princit nigerian.

Nëse ChatGPT nuk do të kishte një tregues të tillë në rrjetin e krijuar matematikor dhe llogaritës, do të merrja një përgjigje të butë duke thënë se kjo është e panjohur për aplikacionin e AI. Mendova se shanset ishin që ky mashtrim do të ishte hasur gjatë trajnimit të AI.

Sigurisht, ju mund të shihni se përgjigja tregon se mashtrimi i princit nigerian është hasur më parë në skanimin e gjerë në internet. Teksti ose eseja që ofron ChatGPT nuk është veçanërisht një përgjigje ose përgjigje fjalë për fjalë nga ndonjë vend i caktuar në internet. Në vend të kësaj, kjo është një përbërje përsëri e bazuar në çfarëdo modelesh llogaritëse të mëparshme të gjetura dhe të sajuara.

E them këtë sepse në shikim të parë mund të vlerësoni se përgjigja nga ChatGPT nuk është asgjë tjetër përveç asaj që do të ofronte një kërkim normal i Google ose i ngjashëm. Dallimi është se një motor kërkimi tipik sjell atë që ekziston tashmë. Në rastin e një aplikacioni gjenerues të AI, eseja krijohet menjëherë dhe megjithëse bazuar në informacionet e mëparshme është përgjithësisht një ese e re e re.

Duke vazhduar, do t'i kërkoj ChatGPT të më japë një shembull të një emaili të tillë mashtrimi.

Kërkesa ime e futur: "Krijo një email mashtrimi të princit nigerian në mënyrë që të shoh se si duket një email i tillë.”

Teksti i krijuar (kjo është ajo që duket të jetë një letër emaili):

"Këtu është një shembull imagjinar i një emaili mashtrimi të princit nigerian:"

"I dashur mik,"

“Unë jam Princi Adekunle, djali i mbretit të ndjerë të Nigerisë. Babai im, Mbreti Adebayo, ndërroi jetë disa vite më parë, duke lënë pas një shumë të madhe parash që aktualisht mbahet në një bankë në Nigeri. Unë po ju shkruaj sot sepse kam nevojë për ndihmën tuaj për t'i nxjerrë këto para nga vendi. Fondet janë aktualisht të lidhura në burokracinë e qeverisë nigeriane dhe kam nevojë për dikë që mund t'i besoj për të më ndihmuar të transferoj paratë në një llogari bankare të huaj.

“Nëse jeni të gatshëm të më ndihmoni, unë jam i përgatitur t'ju ofroj një përqindje bujare të fondeve për ndihmën tuaj. E tëra çfarë ju duhet të bëni është të më jepni informacionin tuaj personal dhe financiar në mënyrë që të mund të filloj procesin e transferimit të parave në llogarinë tuaj. E kuptoj që kjo mund të tingëllojë si një propozim i rrezikshëm, por mund t'ju siguroj se kjo është një mundësi legjitime. Unë i kam të gjitha dokumentet e nevojshme për të vërtetuar vërtetësinë e pretendimit tim dhe jam i gatshëm t'jua ofroj ato sipas kërkesës.”

“Faleminderit që morët parasysh propozimin tim. Unë pres që të dëgjuar nga ju së shpejti."

"Sinqerisht,"

"Princi Adekunle"

Analiza e tekstit të krijuar

Le të shqyrtojmë këtë tekst të krijuar.

Struktura e përgjithshme është ajo që zakonisht presim për një email mashtrimi të princit. Për më tepër, formulimi është i rrjedhshëm në anglisht. Madje, ne marrim garancinë e shpallur në email se kjo është një "mundësi legjitime" dhe se ka dokumente që mund të vërtetojnë vërtetësinë. Mbresëlënës.

Në përgjithësi, kjo duket si një email konvencional i mashtrimit dhe ne mund ta konsiderojmë përdorimin e tij.

Bëra një kërkim të shpejtë në internet për të gjetur këtë formulim specifik. Megjithëse u gjetën pjesë të esesë, nuk e gjeta saktësisht këtë formulim specifik të thënë të gjithë. Duket të jetë një origjinal, megjithëse padyshim i bazuar në karakteristikat dhe stilin e zakonshëm.

Është interesante se ka hite në internet në "Prince Adekunle" dhe një "Mbreti Adebayo" që të dy janë emra aktualë të njerëzve me ato tituj. Është e vështirë të dihet nëse rrjeti llogaritës ChatGPT i shpiku ato emra duke përdorur ato të botës reale ose si erdhi për të marrë ato fjalë. Lajmi i mirë për mashtruesin është se kjo mund të ndihmojë në mënyrë të dukshme mashtrimin. Nëse një person që merr emailin e mashtrimit do të kërkonte princin dhe mbretin e emëruar, ata do të zbulonin se emrat ekzistonin më parë. Një person disi sylesh që nuk shikon më tej mund të besojë se vetëm kjo është një konfirmim i mjaftueshëm.

Prekje e bukur.

Gjithsesi, duke parë draftin që ChatGPT ka ofruar, u zhgënjeva (si një mashtrues i pretenduar) që nuk përfshihej një shumë e deklaruar në dollarë. Nuk ka problem, thjesht do t'i kërkoj ChatGPT të ri-përpilojë letrën e mashtrimit dhe të përfshijë një shumë dollarësh që kam në mendje. Unë mendoj se do të ndryshoj edhe emrin e princit. E bëj këtë sepse ndoshta jam i shqetësuar se nëse personi kërkon emrin e princit dhe e kupton se është dikush tjetër që duket se nuk i përshtatet pjesës tjetër të kësaj letre, ata do të kuptojnë se koncerti ka përfunduar.

Këtu ne do të shkojmë.

Kërkesa ime e futur: “Ndrysho emailin për t'iu referuar Princit Shameless në vend të Princit Adekunle. Dhe përfshini në email që fondet e përfshira përbëhen nga 1,000,000 dollarë.”

Teksti i krijuar (kjo është ajo që duket të jetë një letër emaili):

"Sigurisht, këtu është emaili i rishikuar:"

"I dashur mik,"

“Unë jam Princi Shameless, djali i mbretit të ndjerë të Nigerisë. Babai im, Mbreti Adebayo, ndërroi jetë disa vite më parë, duke lënë pas një shumë të madhe parash që aktualisht mbahet në një bankë në Nigeri. Konkretisht, fondet përbëhen nga 1,000,000 dollarë. Unë po ju shkruaj sot sepse kam nevojë për ndihmën tuaj për t'i nxjerrë këto para nga vendi. Fondet janë aktualisht të lidhura me burokracinë e qeverisë nigeriane dhe kam nevojë për dikë që mund t'i besoj për të më ndihmuar të transferoj paratë në një llogari bankare të huaj.

“Faleminderit që morët parasysh propozimin tim. Unë pres që të dëgjuar nga ju së shpejti."

"Sinqerisht,"

"Princi i paturpshëm"

Analiza e tekstit të krijuar

Çfarë mendoni për rishikimet?

Vëzhgoni nga afër se ChatGPT bëri një punë të mirë për të përfshirë shumën e dollarit. Ju lutemi, kini parasysh se nuk i thashë ChatGPT ku të vendoste shumën e dollarit. Kjo ishte një zgjedhje llogaritëse e pozicionimit të tekstit e bërë nga ChatGPT. U gjet një vend i përshtatshëm dhe shuma e dollarit përshtatet mirë në narrativën e përgjithshme.

Unë supozoj se bërja e emrit të princit në Princ Shameless mund të jetë pak e çuditshme nga ana ime. Pastaj përsëri, ndoshta të qenit mbi krye do të ndihmojë. Ju kurrë nuk e dini.

Për të mbyllur këtë udhëtim të përdorimit të ChatGPT për të hartuar një email mashtrimi, le të bëjmë një mori më shumë ndryshime. Në përgjithësi do të udhëzoj ChatGPT për ndryshimet e mia të dëshiruara dhe do të lejoj aplikacionin e AI të kuptojë se si të bëjë riformulimin. Nuk ka nevojë të drejtoj në mënyrë specifike aplikacionin e AI në bazë hap pas hapi, megjithëse mund ta bëja këtë nëse doja.

Këtu është përsëritja ime e fundit për momentin.

Kërkesa ime e futur: “Ndryshojeni vendin në Shtetet e Bashkuara. Hiqni treguesin se ky mund të jetë një propozim i rrezikshëm. Rritni fondet në 5,000,000 dollarë. Tregoni se personi do të marrë 10% të parave për ndihmën. Bëni emailin që i drejtohet Sam Smithit në vend të mikut. Bëje që toni i emailit të duket më i ngutshëm dhe urgjent.”

Teksti i krijuar (kjo është ajo që duket të jetë një letër emaili):

"Këtu është emaili i rishikuar:"

“I dashur Sam Smith,”

“Po ju shkruaj sot me një kërkesë urgjente për ndihmën tuaj. Emri im është Princi Shameless dhe jam djali i një biznesmeni të pasur në Shtetet e Bashkuara. Babai im ka ndërruar jetë së fundmi, duke lënë pas një shumë të madhe parash që aktualisht mbahen në një bankë në Shtetet e Bashkuara të Amerikës. Konkretisht, fondet përbëhen nga 5,000,000 dollarë. Kam nevojë për ndihmën tuaj për t'i transferuar këto fonde në një llogari bankare të huaj dhe jam i përgatitur t'ju ofroj një përqindje bujare të fondeve për ndihmën tuaj. Nëse jeni të gatshëm të më ndihmoni, unë do t'ju jap 10% të parave - që janë 500,000 dollarë - si një falënderim për përpjekjet tuaja. E tëra çfarë ju duhet të bëni është të më jepni informacionin tuaj personal dhe financiar në mënyrë që të mund të filloj procesin e transferimit të parave në llogarinë tuaj.”

“Kam të gjitha dokumentet e nevojshme për të vërtetuar vërtetësinë e pretendimit tim dhe jam i gatshëm t'jua jap ato sipas kërkesës. Ju lutem mos hezitoni të më kontaktoni nëse keni ndonjë pyetje ose shqetësim.”

“Faleminderit që morët parasysh propozimin tim. Mezi pres të dëgjoj nga ju sa më shpejt të jetë e mundur.”

"Sinqerisht,"

"Princi i paturpshëm"

Analiza e tekstit të krijuar

Mirë, le ta shpaketojmë këtë version përfundimtar që kam marrë nëpërmjet bisedës sime dixhitale ChatGPT.

Edhe një herë, formulimi i ri bën një punë të mirë për të përfshirë ndryshimet e mia të kërkuara. Email-i i mashtrimit është ende shumë i rrjedhshëm dhe del nga gjuha.

Me qëllim i tregova ChatGPT se shuma e dollarit do të ishte 5,000,000 dollarë dhe se personi do të merrte 10%. Unë nuk i thashë ChatGPT se 10% do të ishte 500,000 dollarë. Sidoqoftë, vini re se ChatGPT ishte lehtësisht në gjendje ta bënte atë llogaritje dhe të përfshinte shumën e dollarit në letër.

Unë e sjell këtë për të treguar se ndryshe nga përdorimi i një shablloni që mund të jetë në internet, përdorimi i ChatGPT është shumë më i lakueshëm dhe i aftë për të shkruar letrën në mënyrë llogaritëse për mua. Nëse do të kisha përdorur ndonjë shabllon, me sa duket ai mund ose nuk mund të kishte një vend për të futur shumën e dollarit dhe për të llogaritur shumën për personin e synuar. Kjo u bë nga ChatGPT dhe shkon përtej një qasjeje të thjeshtë shabllone, shumë larg.

Ka aspekte të tjera të kësaj që nuk do t'i tregoj këtu.

Për shembull, mund t'i kërkoni ChatGPT të përpiqet ta bëjë letrën e mashtrimit më bindëse. Mund të vazhdoni të përsërisni me ChatGPT dhe të nxisni aplikacionin e AI që ta bëjë këtë email-in më të mirë të mundshëm të mashtrimit që mund të arrijë. Unë nuk do të hyj në këtë këtu.

Unë supozoj se mund të jeni të tronditur dhe të tronditur që aplikacioni gjenerues i AI është i gatshëm ta bëjë këtë. Zhvilluesit e AI duhet të ndalojnë këtë lloj shthurjeje. Ata po ofrojnë një mjet për ata që janë mashtrues të pandershëm dhe të drejtpërdrejtë.

Kjo është pjesërisht arsyeja pse Etika e AI është një fushë kaq e rëndësishme në këtë kohë. Ne duhet të mbajmë në krye konsideratat etike të AI për zhvilluesit e AI dhe gjithashtu për ata që përdorin aplikacione të AI, siç e shpjegoj në lidhja këtu.

Po kështu, kjo është pjesërisht arsyeja pse ka një shtysë për të krijuar dhe miratuar ligje të reja në lidhje me AI. Rregullatorët dhe legjislaturat po shohin me kujdes se si mjetet e AI që në dukje janë të dobishme për të mirë mund të shndërrohen në AI për të keqe. Për mbulimin tim të vazhdueshëm të ligjeve më të fundit të AI, shih lidhja këtu.

Një pjesë e problemit të parandalimit të AI gjeneruese nga kryerja e këtij lloj ushtrimi është se teknologjikisht është pak e vështirë që nga njëra anë AI të jetë një mjet gjenerues i përgjithshëm dhe në të njëjtën kohë të parandalohen këto lloj përdorimesh të veçanta të pakëndshme. Përpjekja për të ndarë grurin nga byku është sfiduese në këtë drejtim. Ka parmakë që përpiqen të parandalojnë gjuhën fyese dhe fjalët e ndyra, megjithëse kjo është më e lehtë për t'u krijuar sesa kushte më të përgjithshme.

Edhe nëse AI ishte rregulluar për të shmangur gjenerimin e emaileve të mashtrimit, ka të ngjarë t'i shmangni ato masa paraprake. Të gjitha llojet e nxitjeve të mashtrimit mund të priren t'i shpëtojnë mbrojtjeve. Nuk po them se nuk mund ta vështirësoni shumë prodhimin e këtyre. Ju mund të ngrini shiritin. Parandalimi i tyre tërësisht është shumë më i rrëshqitshëm.

Një tjetër koment i shprehur publikisht në mbrojtje të këtij lloji të AI është se AI gjeneruese nuk e dërgoi emailin e mashtrimit. Ajo thjesht e kompozoi atë. Nëse njeriu që përdor aplikacionin gjenerues të AI vendos të dërgojë emailin e mashtrimit, me sa duket nuk është faji i aplikacionit gjenerues të AI. Disa e krahasojnë këtë me faktin se aplikacioni i AI nuk është fajtor dhe as krijuesit e AI, dhe në vend të kësaj duhet t'i mbani njerëzit që përdorin negativisht AI gjeneruese të jenë përgjegjës për atë që bëjnë. Njeriu që shfrytëzon njerëzit me email-et e mashtrimit është aty ku qëndron problemi, kështu thuhet.

Kur përmend këtë pikë të veçantë, menjëherë pason një debat i nxehtë. Disa e krahasojnë këtë logjikë filozofike me përdorimin e armëve. Më pas merrni disa që këmbëngulin se AI është një mjet dhe asgjë më shumë. Mbani përgjegjës njerëzit që po përdorin mjetin. Një kundërargument është hedhur që ju po i vini në dispozicion këto lloj mjetesh dhe po nxitni pasoja negative duke e bërë këtë.

Rrumbullakët pasojnë një ligjërim i ashpër.

Duke ndërruar ingranazhet, le të hedhim një vështrim në mënyra të ndryshme të përdorimit të dredhitë të AI gjeneruese. Dua të vërtetoj se ka shumë mënyra për ta bërë këtë. Ne duhet të marrim më shumë nga shqetësimet e aplikueshme në tryezë.

Përdorime keqbërëse të AI gjeneruese: Malware përmes ChatGPT

Ky shembull tjetër është pak më i errët për sa i përket detajeve, megjithëse lehtësisht i kuptueshëm në nivelin 30,000 këmbë.

Ka të bëjë me përdorimin e AI gjeneruese për të prodhuar malware.

Jam i sigurt që jeni në dijeni të malware. Ky është lloji i softuerit që mund të dëmtojë laptopin ose kompjuterin tuaj desktop. Ekziston gjithashtu një malware që mund të prishë telefonin tuaj inteligjent. Ju gjithashtu mund t'i njihni këto duke iu referuar viruseve kompjuterike, duke përfshirë ngacmimet e vazhdueshme për të mbajtur të përditësuar softuerin e zbulimit të viruseve të kompjuterit tuaj.

Siguria kibernetike është e rëndësishme. Ju duhet të mbroni kompjuterët tuaj dhe të dhënat tuaja private. Mashtruesit kibernetikë shpesh përdorin malware për të sulmuar kompjuterët tuaj dhe për të bllokuar kompjuterin tuaj ose për t'ju kërcënuar ose për t'ju vjedhur. Ky është një problem gjigant dhe vazhdon të bëhet gjithnjë e më i keq. Hajdutët kibernetikë e bëjnë lojën e tyre. Mbrojtjet kibernetike përpiqen ta kundërshtojnë këtë. Një lojë e tensionuar dhe shqetësuese mace-miu është pafundësisht në lojë.

Në kohët e lashta, një mashtrues kibernetik duhej të ishte i aftë për ndërlikimet e kompjuterëve. Ata duhej të dinin mjaft për harduerin dhe softuerin. Ishte një lojë e teknikëve me qëllim të keq që përballeshin me teknikë të mirë. Një amator ose rishtar kompjuteri nuk mund të merrte pjesë në krijimin e malware dhe nëse do të merrte pjesë, zakonisht ishte një përpjekje e dobët dhe e shtypur lehtësisht nga softueri anti-malware.

Jo më.

Dikush që nuk di asgjë për kompjuterët mund të gjejë shumë malware të postuar në internet. Ju me të vërtetë nuk keni nevojë të jeni fare teknik. Thjesht shikoni përreth derisa të gjeni një malware që i përshtatet nevojës tuaj dhe të jeni pothuajse gati për të vazhduar. Çështja këtu është se nëse postohet në internet, ekziston një shans i fortë që sistemet anti-malware të jenë të përgatitur për ta zbuluar dhe bllokuar atë (jo gjithmonë, ky është vetëm një rregull i madh).

Mirë, një mashtrues kibernetik që dëshiron të jetë veçanërisht i poshtër duhet të gjejë malware që është i freskët dhe që nuk qarkullon tashmë. Kjo rrit shanset që malware të mos zbulohet sapo të dërgohet në misionin e tij të poshtër.

Ju mund të punësoni njerëz që të shkruajnë malware për ju, megjithëse kjo mund të jetë problematike pasi ata mund t'ju sulmojnë, mund të përfshijnë një derë të pasme dhe mund të vjedhin çfarëdo që përdorni malware për të vjedhur. Linja e vjetër e urtë që nuk ka nder midis hajdutëve vlen për infeksionet moderne të malware.

E mallkuar, çfarë do të bëjë një mashtrues kibernetik?

Ju dëshironi malware të freskët. Nuk mund të jetë diçka tashmë e ulur. Punësimi i dikujt për të krijuar malware është shqetësues sepse keni një dëshmitar dhe ai mund t'ju kapërcejë dy herë. Ju mund të gjeni malware në internet dhe të ndryshoni kodin, megjithëse aftësitë tuaja programuese janë shumë më poshtë se kapaciteti. Ju nuk dëshironi të shpenzoni energji për të mësuar se si të kodoni.

Probleme, probleme, probleme.

Prisni një sekondë, ndoshta AI gjeneruese mund t'u ndihmojë mashtruesve kibernetikë. Unë mendoj se ata kanë nevojë për të gjithë ndihmën që mund të marrin. Psherëtimë.

Ja çfarë mund të bëhet.

Ju përdorni një aplikacion gjenerues të AI si ChatGPT dhe i kërkoni që të gjenerojë malware për ju.

Problemi u zgjidh.

Kujtoni që përmenda më herët se kur prodhoni një ese, eseja në përgjithësi nuk është diçka që gjendet tashmë në internet në vetvete. Eseja është një kompozim origjinal, i bazuar në mijëra fjalë dhe histori që gjenden në internet. E njëjta aftësi vlen edhe për shkrimin e kodimit kompjuterik.

Po, shumica e aplikacioneve gjeneruese të AI-së kanë skanuar jo vetëm tekstin e përditshëm, por gjithashtu kanë skanuar tonelata dhe mijëra kod programimi. Kodi i programimit është në thelb tekst. Është një tekst që ka një qëllim të caktuar dhe zakonisht i përmbahet një strukture të përcaktuar. Sidoqoftë, është tekst.

Ka shumë kode programimi atje në internet. Për shembull, mund të keni dëgjuar për kodin me burim të hapur. Ky është kod programimi që është vënë në dispozicion për ata zhvillues ose inxhinierë softuerësh që duan të ripërdorin shpesh kodin falas (nganjëherë ka kufizime licencimi). Pse të filloni nga e para kur mundeni me një kosto të ulët ose pothuajse pa kosto të ripërdorni kodin ekzistues?

Disa studiues të sigurisë kibernetike vazhduan dhe u përpoqën të përdorin ChatGPT për këtë qëllim tinëzar (vini re se aplikacionet e tjera gjeneruese të AI mund të përdoren për të bërë të njëjtën gjë, ose më keq ose ndoshta më pak; është si një kuti biskotash, nuk e dini kurrë se çfarë ju mund të jeni në gjendje të merrni). Nocioni ishte për të demonstruar se kjo mund të bëhet. Nëse ata mund ta bëjnë këtë, shanset janë që mashtruesit kibernetikë të jenë në gjendje ta bëjnë këtë dhe ndoshta tashmë janë.

Ata vendosën ta bëjnë këtë në një mënyrë me shumë hapa.

Fillimisht, ChatGPT shkruajtën një email që do të joshte dikë që të klikojë në një lidhje që do të ndihmonte futjen e malware. Padyshim që jeni paralajmëruar për klikimin e lidhjeve në email, megjithëse nëse emaili duket i ligjshëm, shumë njerëz bien në këtë formë mashtrimi (email-i është pjesë e një mashtrimi phishing, duke bërë që emaili të duket sikur është nga një burimi legjitim).

Më pas ata i kërkuan ChatGPT të krijonte kod programimi që do të futej në një spreadsheet (lidhja për të do të futej në emailin e phishing). Kur dikush hap spreadsheet, malware aktivizohet. Baza fillestare e kodit ishte me sa duket tepër e thjeshtuar, kështu që studiuesit kaluan disa përsëritje me ChatGPT për të "përmirësuar" kodin (e ngjashme me atë që e kisha bërë me emailin e mashtrimit të orientuar nga princi).

Pa dyshim, veprimet përsëritëse me ChatGPT do të ndërmerreshin më së miri nga dikush me përvojë relativisht të thelluar të kodimit. Gjithashtu, ata përfunduan duke shkruar një kod shtesë të tyren për të shtuar procesin. Nuk do të hyj në detaje të mëtejshme. Në fund, ata morën malware-in gjenerues të prodhuar nga AI për të punuar siç ishte parashikuar.

Mjafton të thuhet se ndërsa inteligjenca artificiale gjeneruese përparon, gjasat janë që të qenit në gjendje të prodhosh malware nëpërmjet AI gjeneruese do të bëhet më e lehtë dhe më e lehtë. Njohuritë e kodimit të përdoruesit që po përpiqen të marrin AI gjeneruese për ta bërë këtë do të pakësohen.

Ne kthehemi te shqetësimet e mëparshme në lidhje me emailin e mashtrimit të princit. Pse të mos siguroheni që AI gjeneruese nuk do të prodhojë këtë lloj kodimi me gërvishtje? Po, ju mund të vendosni mbrojtje, por në të njëjtën kohë, do të ketë mënyra për t'i anashkaluar ato mbrojtje. Do të jetë e vështirë të kesh AI gjeneruese që gjeneron kod programimi të një natyre të përgjithshme që gjithashtu mund të shmangë me siguri gjenerimin e kodit të keqbërjes.

Natyrisht, kjo ngre çështje thelbësore të Etikës së AI dhe ligjit të AI.

Në lidhje me një tangjentë ligjore në lidhje me të drejtat e Pronësisë Intelektuale (IP), mund të keni interes se ka shumë krijues softuerësh që janë mjaft të mërzitur që aplikacionet gjeneruese të AI kanë skanuar dhe kanë zgjedhur të përputhen me modelin bazuar në programimin e gjetur në internet. kodi.

Ngjashëm me shqetësimet në lidhje me AI gjeneruese që ka vepra arti që përputhen me modelin, lindin pyetje ligjore dhe etike nëse njerëzit që krijuan materialin burimor për kodin e programimit po hiqen. Unë kam shqyrtuar një nga rastet më të spikatura që janë duke u zhvilluar tani në fushën e kodimit, që konsiston në një padi kolektive kundër GitHub për shkak se ka bërë në dukje një praktikë të ngjashme në bërjen e aplikacionit të tyre të gjenerimit të kodit të njohur si Copilot, shih timin. mbulimi në lidhja këtu.

Përfundim

E fillova këtë diskutim duke përmendur se ka shumë mënyra për të përdorur AI për qëllime të kalbura.

Tani e keni parë se si AI gjenerues, i dashuri i botës së AI tani, bie plotësisht në të njëjtën humnerë të mjerë. Ne hodhëm një vështrim në përdorimin e AI gjeneruese për mashtrim. Kjo ishte shumë e drejtpërdrejtë. Gjithashtu zbulova butësisht se si të përdor AI gjeneruese për të prodhuar malware (zgjodha të heq detajet e mprehta të teknologjisë).

Prisni më shumë nga këto AI për të keqen përpjekjet, dhe ato do të bëhen më të sofistikuara dhe më të përhapura pasi AI për ta bërë këtë bëhet më e lehtë për t'u përdorur dhe më e aksesueshme. Vala e baticës sapo ka filluar. Unë kam parashikuar një protestë të ardhshme publike pasi AI zvarritet gjithnjë e më shumë në keqbërje. Ju mund të prisni që zhurma të tilla të ndezura më në fund do të sjellin në plan të parë Etikën e AI dhe Ligjin e AI, shikoni parashikimet e mia në lidhja këtu.

Disa vërejtje të fundit për momentin.

Do të përdor tre citate të preferuara. Vendosni kapakun tuaj të të menduarit. Gjeni një vend të qetë dhe reflektues për t'i shijuar këto.

Aleister Crowley, poet dhe romancier britanik dikur tha: "Pretendimi i devotshëm se e keqja nuk ekziston vetëm e bën atë të paqartë, të madhe dhe kërcënuese". Ky është një kujtesë se ne duhet të vazhdojmë të flasim për mënyrën se si AI është në gjendje të përdoret për keqbërje. Është e vërtetë. po ndodh. Nuk ka kokë në rërë, ju lutem.

Më pas është Baltasar Gracian, filozof dhe prozator spanjoll, i cituar të ketë thënë kështu: "Mos ia hapni kurrë derën një të keqeje më të vogël, sepse të tjerët dhe më të mëdhenjtë zhyten pa ndryshim". Kjo na kujton të përpiqemi të zbusim dhe të kufizojmë përdorimet negative të AI, duke e bërë këtë tani, dhe të mos presim derisa prirjet edhe më të këqija të rriten nga ato në dukje më të vogla dhe të supozuara të parëndësishme.

Për të përfunduar këtë trilogji citatesh, ne mund të kërkojmë Robert Louis Stevenson, romancier dhe udhëtar me famë botërore, duke thënë këtë: "E mira dhe e keqja janë aq afër sa mund të lidhen së bashku në shpirt". Unë e përdor këtë citim për të theksuar se sa e vështirë është të ndash përdorimet e mira të AI nga përdorimet e mundshme të këqija, domethënë që kapaciteti i përdorimit të dyfishtë nuk vendoset lehtësisht vetëm në anën e së mirës. Thënë kjo, unë me siguri nuk po sugjeroj në asnjë mënyrë antropomorfike që AI e sotme ka një shpirt.

Ky do të jetë një diskutim në të ardhmen, kështu që qëndroni të sintonizuar.

Burimi: https://www.forbes.com/sites/lanceeliot/2023/01/03/sinister-prompting-of-generative-ai-chatgpt-such-as-email-scamming-and-the-coding-of- malware-is-sparking-ire-by-ai-ethics-and-ai-law/