Etika e inteligjencës artificiale dhe kërkimi i vetëdijes në AI

A jeni i vetëdijshëm?

Vë bast se besoni se jeni.

Gjëja është se, me sa duket, pak prej nesh janë veçanërisht të vetëdijshëm. Ekziston një gamë ose shkallë e vetëdijes dhe ne të gjithë supozohet se ndryshojmë në atë se sa me zgjuarsi jemi të vetëdijshëm. Ju mund të mendoni se jeni plotësisht të vetëdijshëm dhe të jeni vetëm pak. Ju mund të jeni pak të vetëdijshëm dhe të kuptoni se kjo është gjendja juaj mendore.

Ndërkohë, në pjesën më të lartë të spektrit, ju mund të besoni se jeni plotësisht të vetëdijshëm dhe me të vërtetë jeni po aq të vetëdijshëm sa vijnë. Mirë për ty.

Duke folur për këtë, çfarë të mirë ka të jesh jashtëzakonisht i vetëdijshëm?

Sipas hulumtimit të botuar në Harvard Business Rishikimi (HBR) nga Tasha Eurich, thuhet se jeni në gjendje të merrni vendime më të mira, jeni më të sigurt në vendimet tuaja, jeni më të fortë në kapacitetet tuaja të komunikimit dhe më efektiv në përgjithësi (për artikullin me titull "Çfarë është në të vërtetë vetëdija (dhe si Faktori i bonusit është se ata me vetëdije të fortë thuhet se janë më pak të prirur për të mashtruar, vjedhur ose gënjyer. Në këtë kuptim, ka dy mënyra për të shmangur të qenit i poshtër ose hajdut, së bashku me duke u përpjekur për të qenë një qenie njerëzore më e mirë dhe për të zbukuruar njerëzimin tuaj.

E gjithë kjo bisedë për vetëdijen ngre një pyetje disi të qartë, domethënë, çfarë tregon në të vërtetë fraza vetëdije. Ju mund të gjeni lehtësisht shumë përkufizime dhe interpretime të ndryshme rreth kompleksit dhe do të themi një konstrukt të ngjeshur që përfshin të qenit i vetëdijshëm. Disa do t'i thjeshtonin gjërat duke sugjeruar se vetëdija konsiston në monitorimin e vetes suaj, duke ditur se çfarë jeni duke bërë. Ju jeni shumë të vetëdijshëm për mendimet dhe veprimet tuaja.

Me sa duket, kur nuk është i vetëdijshëm, një person nuk do të kuptonte se çfarë po bën, as pse kështu, dhe gjithashtu nuk do të ishte i vetëdijshëm për atë që njerëzit e tjerë kanë për të thënë për ta. Jam i sigurt që keni takuar njerëz të tillë.

Disa njerëz duket se ecin në këtë tokë pa e ditur se çfarë po bëjnë ata vetë, dhe as nuk kanë një pamje të asaj që të tjerët thonë për ta. Mendoj se mund të pretendosh se ata janë si një dem me kokë poshtë në një butik delikat të thyeshëm. Zakonisht ne priremi të besojmë se demi nuk e di se çfarë po bën dhe mbetet i pavëmendshëm ndaj këndvështrimeve të të tjerëve, përveç nëse ata të tjerët përpiqen të manovrojnë fizikisht ose të korruptojnë krijesën e paditur.

Thuhet se vetëdija mund të jetë disi rekursive.

Më lejoni të skicoj një shembull për të ilustruar këtë rekursion. Jeni në mes të shikimit të një videoje mjaft tërheqëse të maceve në telefonin tuaj inteligjent (duket se të gjithë e bëjnë këtë). Disa njerëz nuk do të kishin mendime të tjera të dukshme përveç veprimeve të mrekullueshme të zemrës së atyre maceve të dashura. Ndërkohë, kushdo që ka pak vetëdije, është i vetëdijshëm se po shikon një video mace. Ata gjithashtu mund të jenë të vetëdijshëm se të tjerët rreth tyre po vërejnë se po shikojnë një video mace.

Vini re se mund të jeni të vetëdijshëm dhe të jeni ende të zhytur në një, le të themi një aktivitet parësor të veçantë. Aktiviteti kryesor në këtë rast është shikimi i videos së maces. Së dyti, dhe në të njëjtën kohë, ju mund të mbani mendimin se në fakt jeni duke parë një video mace. Ju gjithashtu jeni në gjendje të mbani mendimin se të tjerët po ju vëzhgojnë ndërsa po shikoni videon fare argëtuese të maces. Ju nuk duhet domosdoshmërisht të ndaloni një aktivitet, si p.sh. të ndërprisni shikimin e videos së maceve, në mënyrë që më pas të mendoni veçmas se jeni (ose thjesht keni qenë) duke parë një video mace. Këto mendime në dukje mund të ndodhin paralelisht me njëri-tjetrin.

Ndonjëherë, vetëdija jonë mund të na largojë ose të paktën të ndërpresë një aktivitet primar mendor. Ndoshta, ndërsa mendoni për shikimin tuaj të videos së maceve, mendja juaj pjesërisht zbërthehet pasi është e tepruar të përqendroheni vetëm në vetë videon. Më pas, ju vendosni ta ktheni përsëri videon për të rishikuar pjesën që keni parë në njëfarë mënyre, por që keni qenë të hutuar mendërisht nga të kuptuarit e plotë. Vetëdija shqetësoi aktivitetin tuaj primar mendor.

Mirë, tani jemi gati që të shfaqen aspektet rekursive.

A jeni gati?

Ju jeni duke parë një video mace. Vetëdija juaj po ju informon se jeni duke parë një video mace dhe se të tjerët po ju shikojnë ndërsa ju po shikoni videon. Kjo është status quo.

Më pas bëni një kërcim mendor shtesë. Ju filloni të mendoni për vetëdijen tuaj. Ju jeni të vetëdijshëm se po angazhoni vetëdijen tuaj. Ja se si shkon kjo: A po mendoj shumë për të menduar për shikimin tim të videos së maces, ju pyesni veten me dëshpërim? Kjo është një shtresë tjetër e vetëdijes. Renditja e vetëdijes mbi vetëdijen tjetër.

Ekziston një thënie e vjetër që thotë se janë breshka deri në fund. Për fenomenet e vetëdijes, mund të jeni:

• Të pavetëdijshëm për veten
• Vetëdija për veten
• Vetëdija për vetëdijen tuaj për veten tuaj
• Vetëdijshëm për vetëdijen tuaj për vetëdijen tuaj për veten tuaj
• Ad Infinitum (dmth., dhe kështu me radhë)

Ju mund ta keni kuptuar se më herët po theksoja me delikatesë se duket se ekzistojnë dy kategori kryesore të të qenit i vetëdijshëm. Një teori e veçantë postulon se ne kemi një lloj vetëdijeje të brendshme që përqendrohet në gjendjet tona të brendshme dhe gjithashtu kemi një vetëdije të jashtme që ndihmon në matjen e perceptimeve për ne të atyre përreth nesh që po na shikojnë.

Sipas artikullit të HBR, këtu është një përshkrim i shpejtë i dy llojeve të teorizuara të vetëdijes: "E para, të cilën ne e quajtëm vetëdija e brendshme, përfaqëson sa qartë i shohim vlerat, pasionet, aspiratat tona, përshtatjen me mjedisin tonë, reagimet (përfshirë mendimet, ndjenjat, sjelljet, pikat e forta dhe të dobëta) dhe ndikimin tek të tjerët.” Dhe ndërkohë tjetra është: “Kategoria e dytë, vetëdija e jashtme, do të thotë të kuptosh se si na shohin njerëzit e tjerë, në termat e të njëjtëve faktorë të renditur më sipër. Hulumtimi ynë tregon se njerëzit që e dinë se si i shohin të tjerët janë më të aftë për të treguar ndjeshmëri dhe për të marrë perspektivat e të tjerëve.”

Një matricë e dobishme dy nga dy ose katër katrorë mund të nxirret duke pohuar se vetëdija e brendshme dhe e jashtme variojnë nga e larta në të ulët, dhe ju mund t'i bashkoni të dy kategoritë me njëra-tjetrën. Hulumtimi HBR tregon se ju thuhet se jeni një nga këto katër arketipe të vetëdijes:

• Introspektori: Vetëdija e ulët e jashtme + Vetëndërgjegjësimi i lartë i brendshëm
• Kërkuesi: Vetëdija e ulët e jashtme + Vetëdija e ulët e brendshme
• Kënaqësi: Vetëndërgjegjësim i lartë i jashtëm + Vetëndërgjegjësim i ulët i brendshëm
• I vetëdijshëm: Vetëndërgjegjësim i lartë i jashtëm + Vetëndërgjegjësim i lartë i brendshëm

Kulmi do të ishte arketipi "i vetëdijshëm" që konsiston në të qenit në shkallën më të lartë të të qenit i vetëdijshëm nga jashtë dhe gjithashtu në krye të të qenit i vetëdijshëm nga brenda. Për ta sqaruar, ju nuk e arrini këtë qëndrim të lavdëruar në një mënyrë domosdoshmërisht të përhershme. Ju mund të rrëshqasni përpara dhe mbrapa midis të qenit i lartë dhe i ulët, në sferën e vetëdijes së brendshme dhe të jashtme. Mund të varet nga koha e ditës, situata në të cilën ndodheni dhe një mori faktorësh të tjerë të spikatur.

Tani që kemi mbuluar me dashuri disa elemente themelore rreth vetëdijes, mund të kërkojmë ta lidhim këtë me temën e sjelljeve etike.

Pretendimi i zakonshëm për të qenit i vetëdijshëm është se ju keni më shumë gjasa të jeni më lart kur jeni të vetëdijshëm. Kjo do të thotë, siç u tregua tashmë, ju jeni më pak të prirur ndaj sjelljeve të pafavorshme etike si vjedhja, mashtrimi dhe gënjeshtra. Arsyeja për këtë tendencë është se aktiviteti i vetëdijes suaj do t'ju bëjë të kuptoni se sjellja juaj është e pakëndshme ose joetike. Jo vetëm që e kapni veten ndërsa devijoni në ujërat me baltë joetike, por jeni gjithashtu të prirur për ta kthyer veten jashtë dhe në tokë të thatë (shenjtëria e territorit etik), si të thuash.

Vetëdija juaj ju ndihmon në ushtrimin e vetëkontrollit.

Një kontrast me sa duket do të ishte kur ka pak ose aspak vetëdije, gjë që sugjeron se dikush ndoshta është i pavëmendshëm ndaj prirjes së tyre drejt sjelljeve joetike. Ju mund të pretendoni se një person i tillë i pavetëdijshëm mund të mos e kuptojë se po funksionon negativisht. Ngjashëm me demin në dyqanin e gjërave të thyeshme, derisa diçka më e hapur t'u tërheqë vëmendjen, ata nuk kanë gjasa të vetërregullohen.

Jo të gjithë e blejnë këtë, meqë ra fjala. Disa do të argumentonin se vetëdija mund të zbatohet po aq lehtësisht për të qenë joetik sa edhe për të qenë etik. Për shembull, një keqbërës mund të jetë plotësisht i vetëdijshëm dhe të kënaqet që po kryen keqbërjen. Vetëndërgjegjësimi i tyre madje i shtyn ata më me forcë drejt akteve gjithnjë e më të mëdha të sjelljes së keqe të keqe.

Ka më shumë vranësira në këtë se sa mund të shihet drejtpërdrejt. Supozoni se dikush është shumë i vetëdijshëm, por ai nuk është i vetëdijshëm për zakonet etike të një shoqërie ose kulture të caktuar. Në këtë mënyrë, ata nuk kanë ndonjë udhëzim etik, përkundër faktit të deklaruar se janë të vetëdijshëm. Ose, nëse dëshironi, ndoshta personi di për parimet etike dhe nuk beson se ato zbatohen për to. Ata e konsiderojnë veten unike ose jashtë kufijve të të menduarit etik konvencional.

Rreth e rrotull shkon.

Vetëdija mund të interpretohet si një shpatë me dy tehe të orientuara nga etika, disa do të theksonin me zjarr.

Për momentin, le të shkojmë me versionin e fytyrës së lumtur që përbëhet nga vetëdija, në përgjithësi, duke na udhëhequr ose shtyrë drejt sjelljeve etike. Duke qenë se çdo gjë tjetër është e barabartë, ne do të bëjmë supozimin e guximshëm se sa më shumë vetëdije të ketë, aq më shumë do të jeni të prirur nga pikëpamja etike. Sigurisht që duket e këndshme dhe frymëzuese ta urosh këtë.

Le të ndërrojmë ingranazhet dhe të sjellim inteligjencën artificiale (AI) në pamje.

Jemi në një moment në këtë diskutim për të lidhur të gjitha ndërthurjet e procesit me sferën në rritje të AI Etike, e njohur zakonisht si etika e AI. Për mbulimin tim të vazhdueshëm dhe të gjerë të etikës së AI, shih lidhja këtu lidhja këtu, vetëm për të përmendur disa.

Nocioni i AI Etike përfshin ndërthurjen e fushës së etikës dhe sjelljes etike me ardhjen e AI. Me siguri keni parë tituj që kanë ngritur këmbanat e alarmit për AI që është e mbushur me pabarazi dhe paragjykime të ndryshme. Për shembull, ka shqetësime se sistemet e njohjes së fytyrës të bazuara në AI mund të shfaqin ndonjëherë diskriminim racor dhe gjinor, zakonisht si rezultat i mënyrës se si u trajnuan dhe u krijuan objektet themelore të Mësimit të Makinerisë (ML) dhe të Mësimit të Thellë (DL) (shih analizën time në kjo lidhje këtu).

Për t'u përpjekur të ndaloni ose të paktën të zbusni nxitimin e pellushave drejt AI për të keqen, i përbërë nga sisteme të AI që janë ose pa dashje ose nganjëherë të formësuara qëllimisht për të vepruar keq, kohët e fundit ka pasur një urgjencë për të zbatuar parimet e etikës në zhvillimin dhe përdorimin e AI. Qëllimi i sinqertë është të ofrojë udhëzime etike për zhvilluesit e AI, plus firmat që ndërtojnë ose vënë në terren AI, dhe ato që varen nga aplikacionet e AI. Si një shembull i parimeve Etike të AI që po hartohen dhe miratohen, shihni mbulimin tim në lidhja këtu.

Jepni një moment reflektimi për të shqyrtuar këto tre pyetje shumë të rëndësishme:

• A mund t'i bëjmë zhvilluesit e AI që të përqafojnë parimet Etike të AI dhe t'i vënë ato udhëzime në përdorim aktual?
• A mund t'i detyrojmë firmat që ushtrojnë inteligjencë artificiale ose fushë të bëjnë të njëjtën gjë?
• A mund t'i bëjmë që ata që përdorin AI të jenë të vetëdijshëm për aspektet Etike të AI?

Unë do ta thosha pa turp këtë, është një urdhër i lartë.

Eksitimi i krijimit të AI mund të mposht çdo prirje të vëmendjes ndaj etikës së AI. Epo, jo vetëm emocioni, por edhe fitimi i parave është pjesë përbërëse e këtij ekuacioni. Ju mund të habiteni kur të dini se disa në sferën e AI janë të prirur të thonë se do të merren me "gjërat" etike të AI sapo të kenë nxjerrë sistemet e tyre të AI. Kjo është mantra tipike e teknologjisë për t'u siguruar që të dështoni shpejt dhe shpesh derisa ta arrini atë siç duhet (shpresojmë ta bëni siç duhet).

Natyrisht, ata që në mënyrë të përmbledhur po fusin AI të dyshimtë etik mbi publikun e gjerë, po e lënë kalin të dalë nga hambari. Ideja e përhapur e tyre e shpallur është se AI për të keqen do të fiksohet pasi të jetë në përdorim të përditshëm, gjë e cila në mënyrë të dëmshme është e vonuar pasi kali tashmë po galopon në mënyrë të panevojshme përreth. Dëmet mund të bëhen. Ekziston gjithashtu mundësia e rritur që asgjë të mos rregullohet ose rregullohet gjatë kohës që AI është në përdorim. Një justifikim i shpeshtë është se përleshja me inteligjencën artificiale në atë moment mund ta bëjë atë edhe më keq për sa i përket vendimmarrjes algoritmike tashmë joetike (ADM) që do të largohet plotësisht.

Çfarë mund të bëhet për të marrë dobinë dhe vitalitetin e të paturit të AI Etike si një dritë shkëlqyese dhe udhëzuese në mendjet e atyre që janë duke ndërtuar AI, duke vënë në terren dhe duke përdorur AI?

Përgjigje: Vetëdije.

Po, nocioni është se nëse njerëzit do të ishin më të vetëdijshëm për mënyrën se si përdorin ose ndërveprojnë me AI, mund të rrisë prirjen e tyre drejt dëshirës që AI Etike të jetë normë. E njëjta gjë mund të thuhet për zhvilluesit e AI dhe kompanitë që lidhen me sistemet e AI. Nëse ata do të ishin më të vetëdijshëm për atë që po bëjnë, ndoshta do të përqafonin më shumë etikën e AI.

Një pjesë e logjikës siç është përcaktuar tashmë është se të qenit i vetëdijshëm ofron një prirje drejt të qenit një person etikisht më i mirë dhe gjithashtu shmangien nga të qenit një person etikisht i keq. Nëse mund ta mbajmë këtë premisë, kjo nënkupton që zhvilluesit e AI që janë më të prirur drejt vetëndërgjegjësimit do të jenë të prirur drejt sjelljeve etike dhe për rrjedhojë do të jenë të prirur drejt prodhimit të AI etikisht të shëndoshë.

A është kjo një urë shumë larg për ju?

Disa do të thoshin se indirektësia është paksa e madhe. Zinxhiri i tepruar i lidhjeve midis të qenit i vetëdijshëm, të qenit i virtytshëm etik dhe zbatimi i parimeve etike në AI është ndoshta i vështirë për t'u gëlltitur. Një kundërargument është se nuk mund të ishte keq të provosh.

Skeptikët do të thoshin se një zhvillues i AI mund të jetë i vetëdijshëm dhe ndoshta të jetë më i prirur nga pikëpamja etike, por ata nuk do të kërcejnë domosdoshmërisht drejt aplikimit të atij kampi mendor në zakonet e AI Etike. Përgjigja për këtë shqetësim është se nëse ne mund të publikojmë dhe popullarizojmë çështjet Etike të AI, lidhja përndryshe në dukje e dobët do të bëhet më e dukshme, e pritshme dhe ndoshta do të bëhet mënyra standarde për të bërë gjërat kur bëhet fjalë për krijimin e AI.

Tani do të shtoj një kthesë në këtë sagë. Përdredhja mund të bëjë që koka juaj të rrotullohet. Ju lutemi sigurohuni që të jeni ulur mirë dhe të përgatitur për atë që do të tregoj.

Disa theksojnë se ne duhet të ndërtojmë AI Etike direkt në vetë AI.

Ju mund të jeni të pakënaqur nga ai prononcim. Le ta shpaketojmë.

Një programues mund të krijojë një sistem AI dhe ta bëjë këtë me vetëdijen e tij programuese për të parandaluar që AI të mishërojë paragjykime dhe pabarazi. Në vend që thjesht të largohet nga programimi, zhvilluesi po vëzhgon mbi supe të tij për të pyetur nëse qasja që ata po ndërmarrin do të rezultojë në mungesën e nevojshme të elementeve negative në AI.

Shkëlqyeshëm, ne kemi një zhvillues të AI që duket se është mjaft i vetëdijshëm, ka kërkuar të përqafojë sjelljet etike dhe ka parë dritën për të përfshirë parimet etike ndërsa ata krijojnë sistemin e tyre të AI.

Shënoni një fitore për Ethical AI!

Gjithçka mirë dhe mirë, megjithëse ja diçka që mund të ndodhë më vonë. Inteligjenca artificiale vihet në terren dhe vihet në përdorim të përditshëm. Një pjesë e AI përfshinte një komponent për të qenë në gjendje të "mësoni" në fluturim. Kjo do të thotë që AI mund të rregullohet në bazë të të dhënave të reja dhe aspekteve të tjera të programimit origjinal. Me pak fjalë, kjo nuk do të thotë që AI është i ndjeshëm. Ne nuk kemi AI të ndjeshme. I injoroni ata tituj të shthurur që thonë se ne e bëjmë. Askush nuk mund të thotë nëse do të kemi AI të ndjeshme dhe as nuk mund të parashikojë mjaftueshëm se kur do të ndodhë ndonjëherë.

Duke u rikthyer në përrallën tonë, AI u krijua qëllimisht për të përmirësuar veten gjatë procesit. Një nocion mjaft i dobishëm. Në vend që programuesit të duhet të bëjnë vazhdimisht përmirësime, ata e lejojnë programin e AI që ta bëjë këtë vetë (apo, a është kjo duke mos punuar?).

Gjatë kohës që inç pas inç AI rregullohet vetë, rezulton se pabarazitë dhe paragjykimet e ndryshme të ndyra po zvarriten në sistemin e AI me aktet e tij të ndryshimit. Përderisa programuesi fillimisht i mbajti jashtë ato aspekte të pakëndshme, ata tani po formulohen për shkak të rregullimit të AI-së në fluturim. Fatkeqësisht, kjo mund të ndodhë në një mënyrë kaq delikate prapa skenave, saqë askush nuk është më i mençuri. Ata që më parë mund t'i kishin dhënë një dritë jeshile AI pas testimit fillestar shterues, tani janë verbërisht të pavetëdijshëm se AI ka shkuar në rrugën e kalbur të AI për të keqen.

Një mënyrë për të parandaluar ose të paktën për të kapur këtë shfaqje të padëshirueshme do të ishte të ndërtoni në AI një lloj kontrolli të dyfishtë të AI Etike. Një komponent brenda AI është programuar për të parë sjelljen e AI dhe për të zbuluar nëse ADM joetike po fillon të shfaqet. Nëse po, komponenti mund t'u dërgojë një alarm zhvilluesve të AI ose ta bëjë këtë tek një firmë që po drejton sistemin e AI.

Një version më i avancuar i këtij komponenti mund të përpiqet të riparojë AI. Ky do të ishte një rregullim i rregullimeve, duke i kthyer aspektet joetike që lindin në parametrat e duhur etikë. Mund të imagjinoni që ky lloj programimi është i ndërlikuar. Ekziston një shans që mund të humbasë, ndoshta duke u kthyer joetike në thellësisht joetike. Ekziston gjithashtu mundësia që një pozitiv i rremë të nxisë komponentin në veprim dhe ndoshta t'i ngatërrojë gjërat në përputhje me rrethanat.

Gjithsesi, pa u zhytur në mënyrën se si do të funksiononte ky kontrollues i dyfishtë, ne do të bëjmë një deklaratë të guximshme për këtë. Ju mund të sugjeroni që në një farë mënyre të kufizuar, AI thuhet se është i vetëdijshëm.

Po, këto janë fjalë luftarake për shumë njerëz.

Besimi mbizotërues nga pothuajse të gjithë është se AI i sotëm nuk është i vetëdijshëm. Pikë, pikë. Derisa të arrijmë inteligjencën artificiale të ndjeshme, e cila nuk e dimë nëse ose kur do të ndodhë, nuk ka asnjë lloj AI që të jetë i vetëdijshëm. Jo të paktën në kuptimin e vetëdijes së orientuar nga njeriu. As mos sugjeroni se mund të ndodhë.

Sigurisht që jam dakord që duhet të jemi të kujdesshëm në lidhje me antropomorfizimin e AI. Do të them më shumë për këtë shqetësim brenda një momenti.

Ndërkohë, nëse për hir të diskutimit do të jeni të gatshëm të përdorni fazën e "vetëdijes" në një mënyrë të çuditshme, besoj se mund ta kuptoni lehtësisht pse AI mund të thuhet se i përmbahet nocionit të përgjithshëm të vetë-vetë- ndërgjegjësimi. Ne kemi një pjesë të AI që po monitoron pjesën tjetër të AI, duke mbajtur shënime se çfarë po bën pjesa tjetër e AI. Kur pjesa tjetër e AI fillon të kalojë jashtë bordit, pjesa e monitorimit kërkon ta zbulojë këtë. Për më tepër, pjesa e monitorimit të AI ose kontrolluesi i dyfishtë mund ta kthejë pjesën tjetër të AI përsëri në korsitë e duhura.

A nuk të duket pak si akti i shikimit të atyre videove të maceve dhe të vetëdijes se po e bënte këtë?

Ka një unazë të njohur për të.

Këtë mund ta zgjasim edhe më shumë. Komponenti i kontrollit të dyfishtë të AI nuk është programuar vetëm për të vëzhguar sjelljen e pjesës tjetër të AI, por gjithashtu vë në dukje sjelljen e atyre që përdorin AI. Si po bëjnë përdoruesit kur përdorin AI? Supozoni se disa përdorues po shprehin indinjatë që AI duket se po i diskriminon. Kontrolluesi i dyfishtë i inteligjencës artificiale mund të jetë në gjendje ta kuptojë këtë, duke e përdorur atë si një tjetër flamur të kuq në lidhje me humbjen e pjesës tjetër të AI.

Kjo sjell vetëdijen e brendshme dhe kategorizimet e vetëdijes së jashtme.

Kontrolluesi i dyfishtë i AI po skanon brenda dhe jashtë për të kuptuar nëse pjesa tjetër e AI është drejtuar në dete shqetësuese. Zbulimi do të ngrejë një flamur ose do të bëjë që të miratohet një vetë-korrigjim.

Le të shtojmë një shtesë tjetër disi befasuese. Ne ndërtojmë një tjetër kontrollues të dyfishtë të AI që ka për qëllim të kontrollojë dyfish kontrolluesin kryesor të AI-së. Pse kështu? Epo, supozoni se kontrolluesi i dyfishtë i AI duket se po lëkundet ose po dështon të bëjë punën e tij. Kontrolluesi i dyfishtë i AI i kontrolluesit të dyfishtë do të kërkonte të zbulonte këtë mosfunksionim dhe të merrte veprimet e nevojshme në përputhje me rrethanat. Mirë se vini në natyrën rekursive të vetëdijes, disa mund të deklarojnë me krenari, siç shfaqet në një sistem kompjuterik të AI.

Për ata prej jush që janë tashmë në skajet e vendit tuaj për këtë, komenti i fundit, tani për tani, është se ne mund të përpiqemi të sugjerojmë që nëse i bëni sistemet e AI "të vetëdijshëm", ato më pas potencialisht do të gravitojnë drejt sjelljes etike. A e bëjnë këtë në një bazë të ndjeshme? Me vendosmëri, jo. A e bëjnë këtë në një bazë llogaritëse? Po, edhe pse duhet të jemi të qartë se nuk është i të njëjtit kalibër si ai i sjelljes njerëzore.

Nëse nuk ndiheni rehat që nocioni i vetëdijes po shtrembërohet gabimisht për ta bërë atë të përshtatet në një skemë llogaritëse, dyshimet tuaja për këtë janë të theksuara mirë. Nëse duhet t'i ndalojmë përpjekjet e vazhdueshme të AI që përdorin këtë nocion është një pyetje tjetër e hapur. Ju mund të argumentoni bindshëm se të paktën duket se na drejton drejt një rezultati më të mirë të asaj që ka të ngjarë të bëjë AI. Megjithatë, duhet t'i kemi sytë hapur pasi kjo ndodh.

Mendoj se do të duhet të shohim se si do të ndodhë e gjithë kjo. Kthehuni te kjo në pesë vjet, dhjetë vjet dhe pesëdhjetë vjet dhe shikoni nëse mendimi juaj ka ndryshuar për çështjen e diskutueshme.

E kuptoj se ky ka qenë një shqyrtim disi i mprehtë i temës dhe ju mund të jeni të etur për disa shembuj të përditshëm. Ekziston një grup shembujsh të veçantë dhe me siguri të popullarizuar që më janë afër zemrës. E shihni, në cilësinë time si ekspert i AI duke përfshirë degëzimet etike dhe ligjore, më kërkohet shpesh të identifikoj shembuj realistë që shfaqin dilemat e Etikës së AI, në mënyrë që natyra disi teorike e temës të mund të kuptohet më lehtë. Një nga fushat më ndjellëse që paraqet gjallërisht këtë problem etik të inteligjencës artificiale është shfaqja e makinave të vërteta vetë-drejtuese të bazuara në AI. Kjo do të shërbejë si një rast përdorimi ose shembull i dobishëm për diskutim të gjerë mbi temën.

Këtu është një pyetje e rëndësishme që ia vlen të merret parasysh: A ndriçon ardhja e makinave të vërteta vetë-drejtuese të bazuara në inteligjencë artificiale ndonjë gjë rreth AI që ka një pamje të "vetëdijesimit" dhe nëse po, çfarë tregon kjo?

Më lejoni një moment për të zbërthyer pyetjen.

Së pari, vini re se nuk ka një shofer njerëzor të përfshirë në një makinë të vërtetë vetë-drejtuese. Mbani në mend se makinat e vërteta vetë-drejtuese drejtohen nëpërmjet një sistemi drejtimi me AI. Nuk ka nevojë për një shofer njerëzor në timon, as nuk ka një dispozitë që një njeri të drejtojë automjetin. Për mbulimin tim të gjerë dhe të vazhdueshëm të Automjeteve Autonome (AV) dhe veçanërisht makinave vetë-drejtuese, shih lidhja këtu.

Do të doja të sqaroja më tej se çfarë nënkuptohet kur i referohem makinave të vërteta vetë-drejtuese.

Kuptimi i niveleve të veturave që drejtojnë vetveten

Si një sqarim, veturat e vërteta që drejtojnë vetveten janë ato që AI e drejton makinën tërësisht më vete dhe nuk ka ndonjë ndihmë njerëzore gjatë detyrës së drejtimit.

Këto automjete pa shofer konsiderohen Niveli 4 dhe Niveli 5 (shih shpjegimin tim në kjo lidhje këtu), ndërsa një makinë që kërkon një shofer njerëzor për të bashkëndarë përpjekjet e drejtimit zakonisht konsiderohet në nivelin 2 ose nivelin 3. Makinat që ndajnë bashkë detyrën e drejtimit përshkruhen si gjysmë autonome dhe zakonisht përmbajnë një shumëllojshmëri të shtesa të automatizuara që referohen si ADAS (Advanced Driver-Assistance Systems).

Nuk ka ende një makinë të vërtetë të vetë-drejtimit në Nivelin 5, të cilën ne as nuk e dimë nëse kjo do të jetë e mundur për të arritur, dhe as sa kohë do të duhet për të arritur atje.

Ndërkohë, përpjekjet e Nivelit 4 po përpiqen gradualisht të marrin një tërheqje duke kaluar nëpër gjykime shumë të ngushta dhe selektive të rrugëve publike, megjithëse ka polemikë nëse ky test duhet të lejohet në vetvete (ne të gjithë jemi derra guinea për jetë a vdekje në një eksperiment duke u zhvilluar në autostradat dhe autostradat tona, disa pretendojnë, shikojnë mbulimin tim në kjo lidhje këtu).

Meqenëse veturat gjysmë autonome kërkojnë një shofer njerëzor, adoptimi i atyre llojeve të veturave nuk do të jetë dukshëm i ndryshëm sesa vozitja e automjeteve konvencionale, kështu që nuk ka shumë gjëra të reja për tu mbuluar rreth tyre në këtë temë (megjithëse, siç do ta shihni në një moment, pikat e bëra më tej janë përgjithësisht të zbatueshme).

Për veturat gjysmë autonome, është e rëndësishme që publiku të paralajmërohet për një aspekt shqetësues që po shfaqet kohët e fundit, domethënë që përkundër atyre drejtuesve njerëzorë që mbajnë postimin e videove të vetes duke rënë në gjumë në timonin e një makine Niveli 2 ose Niveli 3 , ne të gjithë duhet të shmangim mashtrimin në besimin se shoferi mund të heq vëmendjen e tyre nga detyra e drejtimit ndërsa drejton një makinë gjysmë autonome.

Ju jeni palë përgjegjëse për veprimet e drejtimit të automjetit, pavarësisht se sa automatizim mund të futet në një Niveli 2 ose Niveli 3.

Makina që drejtojnë vetë dhe inteligjenca artificiale që kanë të ashtuquajturën vetëdije

Për automjetet e drejtimit të vërtetë të Nivelit 4 dhe Nivelit 5, nuk do të ketë një shofer njerëzor të përfshirë në detyrën drejtuese.

Të gjithë banorët do të jenë pasagjerë.

UA po bën drejtimin.

Një aspekt për të diskutuar menjëherë përfshin faktin se UA e përfshirë në sistemet e sotme të drejtimit të AI nuk është e ndjeshme. Me fjalë të tjera, AI është krejtësisht një kolektiv i programimit dhe algoritmeve të bazuar në kompjuter, dhe sigurisht që nuk është në gjendje të arsyetojë në të njëjtën mënyrë që njerëzit munden.

Pse ky theksim i shtuar në lidhje me UA nuk është i ndjeshëm?

Meqenëse dua të nënvizoj se kur diskutoj rolin e sistemit të drejtimit të AI, unë nuk po i përshkruaj AI aftësive njerëzore. Ju lutemi kini parasysh se ekziston një tendencë e vazhdueshme dhe e rrezikshme këto ditë për të antropomorfizuar AI. Në thelb, njerëzit janë duke i dhënë ndjesi të ngjashme me njeriun AI-së së sotme, përkundër faktit të pamohueshëm dhe të pakontestueshëm që asnjë AI i tillë nuk ekziston ende.

Me atë sqarim, ju mund të parashikoni që sistemi i drejtimit të AI nuk do të "dijë" në lidhje me aspektet e ngasjes. Ngasja dhe gjithçka që përfshin do të duhet të programohen si pjesë e harduerit dhe softuerit të veturës që drejton vetveten.

Le të zhytemi në morinë e aspekteve që vijnë për të luajtur në këtë temë.

Së pari, është e rëndësishme të kuptojmë se jo të gjitha makinat vetë-drejtuese me AI janë të njëjta. Çdo prodhues automjetesh dhe firmë teknologjike vetëdrejtuese po ndjek qasjen e saj për të krijuar makina që drejtojnë vetë. Si e tillë, është e vështirë të bëhen deklarata gjithëpërfshirëse për atë që do të bëjnë ose nuk do të bëjnë sistemet e drejtimit të AI.

Për më tepër, sa herë që thuhet se një sistem ngarje AI nuk bën ndonjë gjë të veçantë, kjo më vonë mund të kapërcehet nga zhvilluesit që në fakt programojnë kompjuterin për ta bërë atë gjë. Hap pas hapi, sistemet e drejtimit të AI po përmirësohen dhe zgjerohen gradualisht. Një kufizim ekzistues sot mund të mos ekzistojë më në një përsëritje ose version të ardhshëm të sistemit.

Unë besoj se siguron një sasi të mjaftueshme paralajmërimesh për të nënvizuar atë që unë jam gati të lidhem.

Ne jemi të përgatitur tani për të bërë një zhytje të thellë në makinat që drejtojnë vetë dhe pyetjet etike të AI që përfshijnë nocionin që ngre vetullat e AI që ka një lloj vetëdijeje nëse dëshironi.

Le të përdorim një shembull lehtësisht të drejtpërdrejtë. Një makinë vetë-drejtuese e bazuar në AI është duke u nisur në rrugët e lagjes suaj dhe duket se po lëviz në mënyrë të sigurt. Në fillim, i kishit kushtuar vëmendje të veçantë çdo herë që arrinit t'i hidhnit një sy makinës vetë-drejtuese. Automjeti autonome u dallua me raftin e tij të sensorëve elektronikë që përfshinte kamera video, njësi radari, pajisje LIDAR dhe të ngjashme. Pas shumë javësh të makinës vetë-drejtuese që qarkullonte nëpër komunitetin tuaj, tani mezi e vëreni atë. Për sa ju shqetëson, është thjesht një makinë tjetër në rrugët publike tashmë të ngarkuara.

Që të mos mendoni se është e pamundur ose e pabesueshme të njiheni me shikimin e makinave vetë-drejtuese, kam shkruar shpesh se si vendet që janë brenda fushës së provave të makinave vetë-drejtuese janë mësuar gradualisht të shohin automjete të zbukuruara. shikoni analizën time në kjo lidhje këtu. Shumë nga vendasit përfundimisht u zhvendosën nga një gërvishtje e rrëmbyer në gojë, tek tani duke lëshuar një zhurmë të madhe mërzie për të dëshmuar ato makina që lëviznin vetë.

Ndoshta arsyeja kryesore tani që ata mund të vërejnë automjetet autonome është për shkak të faktorit të acarimit dhe acarimit. Sistemet e drejtimit të inteligjencës artificiale të përdorur nga libri sigurohen që makinat u binden të gjitha kufijve të shpejtësisë dhe rregullave të rrugës. Për shoferët e ethshëm njerëzorë në makinat e tyre tradicionale të drejtuara nga njerëzit, ju nervozoheni në momente kur ngecni pas makinave vetë-drejtuese të bazuara në AI që respektojnë rreptësisht ligjin.

Kjo është diçka me të cilën të gjithë mund të na duhet të mësohemi, me të drejtë ose pa të drejtë.

Kthehu në përrallën tonë. Një ditë, supozoni se një makinë vetëdrejtuese në qytetin ose qytetin tuaj i afrohet shenjës Stop dhe nuk duket se po ngadalëson shpejtësinë. Qiejt, duket sikur sistemi i drejtimit të AI do të ketë makinën vetë-drejtuese të lërojë menjëherë pas shenjës Stop. Imagjinoni sikur një këmbësor ose kalorës me biçikletë të ishte diku afër dhe të kapej i pakujdesshëm se makina vetë-drejtuese nuk do të ndalonte siç duhet. E turpshme. E rrezikshme!

Dhe ilegale.

Le të shqyrtojmë tani një komponent të AI në sistemin e drejtimit të AI që vepron si një stil i kontrollit të dyfishtë të vetëdijshëm.

Ne do të marrim një moment për të gërmuar në detajet e asaj që po ndodh brenda sistemit të drejtimit të AI. Rezulton se kamerat video të montuara në automjetin autonom zbuluan atë që dukej ndoshta të ishte një shenjë Stop, megjithëse në këtë rast një pemë e rritur errëson me bollëk shenjën Stop. Sistemi i Mësimit të Makinerisë dhe i Mësimit të Thellë, i cili fillimisht ishte trajnuar për shenjat Stop, u krijua në modele të shenjave kryesisht të ndalimit të plotë, përgjithësisht të papenguara. Pas ekzaminimit kompjuterik të imazheve video, u caktua një probabilitet i ulët që një shenjë Stop ekzistonte në atë vend të veçantë (si një ndërlikim i shtuar dhe shpjegim i mëtejshëm, kjo ishte një shenjë e sapo postuar Stop që nuk shfaqej në hartat dixhitale të përgatitura më parë që Sistemi i drejtimit të AI-së mbështetej).

Në përgjithësi, sistemi i drejtimit të inteligjencës artificiale ishte llogaritur i vendosur për të vazhduar përpara sikur shenja Stop ose të mos ekzistonte ose ndoshta një shenjë e një lloji tjetër që me sa duket i ngjante një shenje Stop (kjo mund të ndodhë dhe ndodh me një farë frekuence).

Por, fatmirësisht, kontrolluesi i dyfishtë i vetëdijshëm për AI po monitoronte aktivitetet e sistemit të drejtimit të AI. Pas rishikimit kompjuterik të të dhënave dhe vlerësimit nga pjesa tjetër e AI, ky komponent zgjodhi të anashkalojë rrjedhën normale të procedimit dhe në vend të kësaj urdhëroi sistemin e drejtimit të AI të ndalonte të përshtatshme.

Askush nuk u lëndua dhe nuk pati asnjë veprim të kundërligjshëm.

Mund të thuash se kontrolluesi i dyfishtë i vetëdijshëm i AI veproi sikur të ishte një agjent ligjor i integruar, duke u përpjekur të siguronte që sistemi i drejtimit të AI të respektonte ligjin (në këtë rast, një shenjë Stop). Sigurisht, siguria ishte gjithashtu thelbësore.

Shpresojmë se ky shembull tregon se si mund të funksionojë kontrolluesi i dyfishtë i vetëdijshëm i AI i konceptuar.

Më pas mund të shqyrtojmë shkurtimisht një shembull më të dukshëm Etik të AI që ilustron se si kontrolli i dyfishtë i vetëdijshëm për AI mund të sigurojë një funksionalitet të integruar të orientuar nga AI.

Së pari, si sfond, një nga shqetësimet që janë shprehur në lidhje me ardhjen e makinave vetë-drejtuese të bazuara në AI është se ato mund të përfundojnë duke u përdorur në një mënyrë disi të paqëllimshme diskriminuese. Ja si. Supozoni se ato makina vetë-drejtuese janë krijuar për të provuar dhe maksimizuar potencialin e tyre të të ardhurave, gjë që ka kuptim për ata që përdorin një flotë makinash vetë-drejtuese të disponueshme për të ndarë udhëtimin. Pronari i flotës do të dëshironte të kishte një operacion fitimprurës.

Mund të ndodhë që në një qytet ose qytet të caktuar, makinat vetë-drejtuese në roaming të fillojnë gradualisht t'i shërbejnë disa pjesëve të komunitetit dhe jo zonave të tjera. Ata e bëjnë këtë për një qëllim të fitimit të parave, në atë që zonat më të varfra mund të mos prodhojnë aq të ardhura sa pjesët më të pasura të zonës. Kjo nuk është një aspiratë e qartë për t'i shërbyer disa zonave dhe për të mos u shërbyer të tjerëve. Në vend të kësaj, lind organikisht përsa i përket AI-së së makinave vetë-drejtuese "të kuptojë" në mënyrë llogaritëse se ka më shumë para për të fituar duke u përqëndruar në zonat me pagesë gjeografikisht më të lartë. Unë e kam diskutuar këtë shqetësim etik shoqëror në rubrikën time, si p.sh lidhja këtu.

Supozoni se kemi shtuar një kontrollues të dyfishtë të vetëdijshëm për AI në sistemet e drejtimit të AI. Pas një kohe, komponenti i AI vëren në mënyrë llogaritëse një model se ku janë në roaming makinat vetë-drejtuese. Veçanërisht, në disa zona, por jo në të tjera. Bazuar në kodimin me disa parime Etike të AI, kontrolluesi i dyfishtë i vetëdijshëm i AI fillon t'i drejtojë makinat vetë-drejtuese drejt pjesëve të tjera të qytetit që përndryshe ishin lënë pas dore.

Kjo ilustron nocionin e vetëdijes së AI dhe e bën këtë në kombinim me elementin Etik të AI.

Një shembull tjetër i tillë mund të japë një pasqyrë se ky konsideratë Etike e AI mund të jetë gjithashtu një degëzim mjaft i matur dhe serioz për jetë a vdekje.

Konsideroni një raport lajmesh për një aksident të fundit me makinë. Thuhet se një shofer njerëzor po afrohej në një kryqëzim të zënë dhe kishte një dritë jeshile për të vazhduar drejt përpara. Një shofer tjetër kaloi duke kaluar një semafor të kuq dhe hyri në kryqëzim kur nuk duhej ta bënin këtë. Shoferi me dritën jeshile kuptoi në momentin e fundit se kjo makinë tjetër do të përplasej rëndë në makinën e tij.

Sipas këtij shoferi të rrezikuar, ai llogariti me vetëdije se ose do të godiste nga makina tjetër, ose mund të devijonte për të shmangur ndërhyrësin. Problemi me devijimin ishte se aty pranë kishte këmbësorë që do të rrezikoheshin.

Cilën zgjedhje do të bënit?

Ju mund të përgatiteni për t'u goditur dhe të shpresoni se dëmi nuk do t'ju gjymojë ose vrasë. Nga ana tjetër, ju mund të largoheni rrënjësisht, por të rrezikoni rëndë dhe ndoshta të dëmtoni ose vrisni këmbësorët aty pranë. Ky është një problem i vështirë, që përfshin gjykimin moral dhe është i zhytur plotësisht në implikime etike (dhe ligjore).

Ekziston një telash etik për qëllime të përgjithshme që mbulon këtë lloj dileme, të quajtur në mënyrë famëkeqe ose ndoshta problemi i karrocave, shihni mbulimin tim të gjerë në kjo lidhje këtu. Rezulton se është një eksperiment mendimi stimulues etik që fillon në fillim të viteve 1900. Si e tillë, tema ka qenë rreth e rrotull për një kohë të gjatë dhe kohët e fundit është bërë përgjithësisht e lidhur me ardhjen e AI dhe makinave vetë-drejtuese.

Zëvendësoni shoferin njerëzor me një sistem drejtimi me AI të integruar në një makinë që drejton vetë.

Imagjinoni atëherë që një makinë vetë-drejtuese e AI po hyn në një kryqëzim dhe sensorët e automjetit autonom zbulojnë papritur një makinë të drejtuar nga njeriu që vjen në mënyrë të rrezikshme drejtpërdrejt nga drita e kuqe dhe synon makinën pa shofer. Supozoni se makina vetëdrejtuese ka disa pasagjerë brenda automjetit.

Çfarë dëshironi të bëjë AI?

Nëse sistemi i drejtimit të inteligjencës artificiale zgjedh të vazhdojë përpara dhe të futet brenda (ka të ngjarë të dëmtojë ose ndoshta të vrasë pasagjerët brenda automjetit), apo dëshironi që sistemi i drejtimit të AI të marrë një shans dhe të largohet, megjithëse veprimi i devijimit merr automjetin autonom rrezikshëm drejt këmbësorëve aty pranë dhe mund t'i dëmtojë ose vrasë ata.

Shumë prej prodhuesve të inteligjencës artificiale të makinave vetë-drejtuese po marrin një qasje kokë-në-rërë ndaj këtyre vështirësive etike të inteligjencës artificiale. Në përgjithësi, AI, siç është programuar aktualisht, thjesht do të lërohej përpara dhe do të përplasej dhunshëm nga makina tjetër. AI nuk ishte programuar për të kërkuar ndonjë manovër tjetër evazive.

Unë e kam parashikuar vazhdimisht se ky qëndrim i prodhuesve të makinave vetë-drejtuese me AI do të vijë dhe do t'i kafshojë ata (analiza ime është në lidhja këtu). Ju mund të prisni padi që përfshijnë përplasje të tilla makinash që do të kërkojnë të zbulojnë se çfarë ishte programuar të bënte AI. A ishte kompania ose zhvilluesit e AI ose operatori i flotës që zhvilloi dhe vendosi inteligjencën artificiale të pakujdesshme ose përgjegjës për atë që bëri ose nuk bëri AI? Ju gjithashtu mund të parashikoni që një stuhi etike për ndërgjegjësimin e inteligjencës artificiale në të gjithë publikun do të krijohet sapo të ndodhin këto lloj rastesh.

Në këtë dilemë Etike të Inteligjencës Artificiale e fut kontrolluesin e dyfishtë të vetëdijshëm të AI, i cili është i orientuar nga etika. Ndoshta ky komponent i veçantë i AI mund të përfshihet në këto lloj rrethanash. Pjesa po monitoron pjesën tjetër të sistemit të drejtimit të AI dhe statusin e makinës vetë-drejtuese. Kur lind një moment i tmerrshëm si ky, komponenti i AI shërben si një zgjidhës i problemeve të karrocave dhe ofron atë që duhet të bëjë sistemi i drejtimit të AI.

Nuk është një gjë e lehtë për të koduar, ju siguroj.

Përfundim

Unë do të ndaj me ju mendimin e fundit për tani për këtë temë.

Ka të ngjarë që t'ju duket intriguese.

A dini për test pasqyre?

Është mjaft i njohur në studimin e vetëdijes. Emra të tjerë për këtë çështje janë testi i vetë-njohjes së pasqyrës, testi i njollave të kuqe, testi rouge dhe frazat përkatëse. Teknika dhe qasja fillimisht u krijuan në fillim të viteve 1970 për vlerësimin e vetëdijes së kafshëve. Kafshët që thuhet se e kanë kaluar me sukses testin përfshijnë majmunët, disa lloje elefantësh, delfinët, mapitë dhe disa të tjerë. Kafshët që u testuan dhe që thuhet se nuk e kaluan testin përfshijnë panda gjigante, luanë deti, etj.

Këtu është marrëveshja.

Kur një kafshë e sheh veten në pasqyrë, a e kupton kafsha se imazhi i shfaqur është i vetvetes, apo kafsha mendon se është një kafshë tjetër?

Me sa duket, kafsha njeh vizualisht speciet e veta, pasi ka parë të tjera të llojit të saj, dhe për këtë arsye mund të mendojë se kafsha e paraqitur në pasqyrë është një kushëri ose ndoshta një konkurrent luftarak (veçanërisht nëse kafsha gërhas në imazhin e pasqyrës, e cila në kthesa duket se po i gërhas përsëri). Ndoshta e keni parë macen tuaj të shtëpisë ose qenin e dashur të shtëpisë duke bërë të njëjtën gjë kur e sheh veten në një pasqyrë shtëpiake për herë të parë.

Në çdo rast, do të supozonim se një kafshë e egër nuk e ka parë kurrë veten më parë. Epo, kjo nuk është domosdoshmërisht e vërtetë, pasi ndoshta kafsha kapi një paraqitje të shkurtër të vetvetes në një pellg të qetë uji ose përmes një formacioni shkëmbi me shkëlqim. Por këto konsiderohen si shanse më pak të mundshme.

Mirë, ne duam të vlerësojmë disi nëse një kafshë është në gjendje të kuptojë se është në fakt kafsha e treguar në pasqyrë. Mendoni për atë veprim në dukje të thjeshtë. Njerëzit e kuptojnë që në moshë të re se ekzistojnë dhe se ekzistenca e tyre demonstrohet duke e parë veten në pasqyrë. Ata bëhen të vetëdijshëm për veten e tyre. Në teori, mund të mos e kuptoni se jeni ju, derisa ta shihni veten në një pasqyrë.

Ndoshta kafshët nuk janë në gjendje të bëhen kognitivisht të vetëdijshëm në të njëjtën mënyrë. Mund të ndodhte që një kafshë do ta shihte veten në një pasqyrë dhe do të besonte vazhdimisht se është një kafshë tjetër. Pavarësisht se sa herë e sheh veten, ajo përsëri do të mendonte se kjo është një kafshë ndryshe nga ajo vetë.

Pjesa e mashtrimit të kësaj vjen në lojë. Ne bëjmë një shenjë në kafshë. Kjo shenjë duhet të shihet vetëm kur kafsha e sheh veten në pasqyrë. Nëse kafsha mund të rrotullohet ose të kthehet dhe të shohë shenjën në vetvete (drejtpërsëdrejti), kjo e prish eksperimentin. Për më tepër, kafsha nuk mund të ndjejë, nuhasë ose në ndonjë mënyrë tjetër të zbulojë shenjën. Edhe një herë, nëse do ta bënin këtë, do ta prishte eksperimentin. Kafsha nuk mund ta dijë që ne i kemi vënë shenjën, pasi kjo do t'i tregonte bishës se diçka është atje.

Ne duam t'i ngushtojmë gjërat në mënyrë që arsyeja e vetme e mundshme që shenja është e zbulueshme të jetë nëpërmjet shikimit të vetvetes në pasqyrë.

Aha, testi tani është gati. Kafsha vendoset para një pasqyre ose endet drejt saj. Nëse kafsha përpiqet më pas të prekë ose të gërmojë në shenjë, ne do të konkludojmë në mënyrë të arsyeshme se e vetmja mënyrë që do të ndodhte është nëse kafsha kupton se shenja ishte në vetvete. Shumë pak lloje të kafshëve kanë mundur ta kalojnë me sukses këtë test.

Ka një mori kritikash për testin. Nëse një testues njerëzor është afër, ata mund t'i japin gjërat duke i ngulur sytë në shenjë, gjë që mund të bëjë që kafsha të krekoset ose të ndjehet për të. Një mundësi tjetër është që kafsha ende beson se një kafshë tjetër shfaqet në pasqyrë, por ajo është e të njëjtit lloj, dhe kështu kafsha pyet nëse edhe ajo ka një shenjë si ajo në kafshën tjetër.

Vazhdon dhe vazhdon.

Jam i sigurt se jeni të kënaqur që e dini këtë dhe tani e tutje do të kuptoni pse ka një pikë ose ndonjë shenjë të çuditshme në një kafshë që përndryshe nuk do të kishte një shenjë të tillë. Kush e di, mund të ketë përfunduar së fundmi një eksperiment testi pasqyre. Përgëzoje kafshën, në mënyrë të sigurt, që ka qenë një pjesëmarrëse bujare.

Çfarë lidhje ka kjo me makinat vetë-drejtuese të bazuara në AI?

Do t'ju pëlqejë kjo pjesë.

Një makinë vetë-drejtuese po ecën përgjatë një autostrade të gjatë. Sistemi i drejtimit të AI po përdor sensorë për të zbuluar trafikun tjetër. Kjo është një autostradë me dy korsi që ka trafik që shkon drejt veriut në njërën korsi dhe drejt jugut në korsinë tjetër. Me raste, makinat dhe kamionët do të përpiqen të kalojnë njëri-tjetrin, duke e bërë këtë duke hyrë në korsinë kundërshtare dhe më pas duke u kthyer në korsinë e tyre të duhur të udhëtimit.

Ju e keni parë këtë, pa dyshim e keni bërë këtë.

Vë bast se edhe juve ju ka ndodhur ky aspekti tjetër. Përpara makinës vetë-drejtuese është një nga ata kamionë cisternë të konsiderueshëm. Është prej metali me shkëlqim. E lëmuar dhe e pastër si një bilbil. Kur hipni pas një kamioni të tillë, mund të shihni imazhin e pasqyrës së makinës suaj përmes pjesës së pasme të cisternës. Nëse e keni parë këtë, e dini se sa magjepsëse mund të jetë. Ja ku jeni, ju dhe makina juaj, të pasqyruar në pasqyrën e pasqyrës së pasme të kamionit cisternë.

Uluni për kthesën e çmendur.

Një makinë vetë-drejtuese vjen pas kamionit cisternë. Kamerat zbulojnë imazhin e një makine që shfaqet në reflektimin si pasqyrë. Ua, vlerëson AI, a është ajo një makinë? A po vjen me makinën që drejton vetë? Ndërsa makina vetëdrejtuese i afrohet gjithnjë e më shumë kamionit cisternë, makina duket se po afrohet gjithnjë e më shumë.

Po, inteligjenca artificiale llogaritëse mund të llogarisë se kjo është një situatë e rrezikshme dhe AI ​​duhet të ndërmarrë veprime evazive nga ky automjet i çmendur mashtrues. E shihni, AI nuk e njohu veten në pasqyrë. Dështoi në testin e pasqyrës.

Çfarë duhet bërë? Ndoshta kontrolluesi i dyfishtë i vetëdijshëm i AI hidhet në këtë çështje dhe siguron pjesën tjetër të sistemit të drejtimit të AI se është vetëm një reflektim i padëmshëm. Rreziku u shmang. Bota është e shpëtuar. Kalimi me sukses i Testit të Pasqyrës së AI!

Me një përfundim të qartë, ne madje mund të sugjerojmë që ndonjëherë AI është më i zgjuar ose të paktën më i vetëdijshëm se një ari mesatar (megjithëse, për meritë të arinjve, ata zakonisht ia dalin mirë në testin e pasqyrës, shpeshherë kanë arritur përdoret për reflektimin e tyre në pellgje uji).

Korrigjim, ndoshta AI mund të jetë më i vetëdijshëm se pandat gjigante dhe luanët e detit, por mos u tregoni kafshëve se, ata mund të tundohen të thyejnë ose të godasin sistemet e AI. Ne nuk e duam këtë, apo jo?