Etika e AI mbështetet te Aristoteli për të shqyrtuar nëse njerëzit mund të zgjedhin të skllavërojnë AI në mes të ardhjes së sistemeve plotësisht autonome

Mik apo armik.

Peshk apo shpend.

Personi apo send.

Të gjitha këto enigma të përhapura në dukje sugjerojnë se ne ndonjëherë përballemi me një situatë dikotomike dhe duhet të zgjedhim një aspekt ose tjetrin. Jeta mund të na detyrojë të përballemi me rrethana që përbëhen nga dy opsione ekskluzive reciproke. Me një gjuhë më të shijshme, mund të sugjeroni që një ekuacion binar përjashtues kërkon që ne të ecim rreptësisht në një rrugë të veçantë dhe jo në një tjetër.

Le të përqendrohemi në mënyrë specifike në dikotominë person ose send.

Çështja e zjarrtë e personit-a-gjësë del vazhdimisht në lidhje me Inteligjencën Artificiale (AI).

Për të sqaruar, inteligjenca artificiale e sotme është absolutisht nuk një person dhe nuk ka asnjë pamje të ndjeshme, pavarësisht çfarëdo titujsh me sy të hapur dhe krejtësisht të jashtëzakonshëm që mund të shihni në lajme dhe nëpër mediat sociale. Kështu, mund të jeni plotësisht të sigurt se për momentin çështja nëse AI është një person apo një gjë është e gatshme të përgjigjet. Lexo buzët e mia, në zgjedhjen e vërtetë të Hobson-it midis personit ose sendit, AI është një gjë, tani për tani.

Thënë kjo, ne mund të shikojmë drejt së ardhmes dhe të pyesim veten se çfarë mund të ndodhë nëse jemi në gjendje të arrijmë një formë të ndjeshme të AI.

Disa kritikë të arsyetuar (plus skeptikët kaustikë) sugjerojnë se ne ndoshta po i numërojmë pulat tona shumë kohë përpara se ato të çelin duke diskutuar në ditët e sotme pasojat e një AI të ndjeshme. Shqetësimi i shprehur është se vetë diskutimi nënkupton që ne duhet të jemi në majë të një AI të tillë. Shoqëria në përgjithësi mund të mashtrohet duke besuar se nesër ose pasnesër do të ketë një zbulim të papritur dhe tronditës se ne në fakt kemi arritur në AI të ndjeshme (kjo është referuar nga disa si singulariteti i AI ose një shpërthim inteligjence, shih analiza ime në lidhja këtu). Ndërkohë, ne nuk e dimë se kur do të lindë një inteligjencë e tillë artificiale, nëse ndonjëherë, dhe sigurisht, me sa duket nuk kemi nevojë të shikojmë çdo cep dhe të jemi tmerrësisht të prirur që inteligjenca artificiale e ndjeshme do të hidhet nga ne krejtësisht e papritur në tjetrën. pak kohë.

Ana tjetër e debatit vë në dukje se ne nuk duhet të kemi kokën e zhytur thellë në rërë. E shihni, nëse nuk po diskutojmë hapur dhe nuk po meditojmë mundësitë që lidhen me AI të ndjeshme, ne po i bëjmë njerëzimit një dëm të rëndë të supozuar. Ne nuk do të jemi gati për trajtimin e inteligjencës artificiale të ndjeshme kur ose nëse lind. Për më tepër, dhe ndoshta edhe më e theksuar, duke parashikuar inteligjencën artificiale të ndjeshme, ne mund t'i marrim gjërat disi në duart tona dhe të formësojmë drejtimin dhe natyrën se si do të bëhet një AI e tillë dhe nga çfarë do të përbëhet (jo të gjithë janë dakord për këtë pikë të fundit , domethënë disa thonë se një AI e tillë do të ketë një "mendje" krejtësisht të sajën dhe ne nuk do të jemi në gjendje ta formësojmë apo ta korrigjojmë atë pasi AI do të jetë në gjendje të mendojë në mënyrë të pavarur dhe të përcaktojë një mjet për të ekzistuar vazhdimisht).

Etika e inteligjencës artificiale tenton të anashkalojë këndvështrimin se do të ishim të mençur t'i nxjerrim hapur tani këto çështje të mundimshme dhe argumentuese të inteligjencës artificiale, në vend që të presim derisa të mos na mbetet asnjë alternativë ose të mërzitemi me arritjen e një AI të tillë. Lexuesit e dinë mirë se unë kam mbuluar gjerësisht temat e Etikës së AI dhe Etikës së AI, duke përfshirë mbulimin e një game të fortë çështjesh të mprehta si personazhi juridik i AI, kontrolli i AI, shpërbërja e AI, monokultura algoritmike e AI, larja e etikës së AI, përdorimi i dyfishtë AI të ashtuquajturat projekte Doctor Evil, AI që fsheh dinamikën e fuqisë shoqërore, AI i besueshëm, auditimi i AI, etj. lidhja këtu).

Unë ju bëj një pyetje sfiduese.

Në të ardhmen, duke supozuar se në çfarëdo mënyre përfundojmë me AI të ndjeshme, a do të interpretohet kjo AI e ndjeshme nga ne të gjithë si një person apo si një send?

Para se të fillojmë të bëjmë një zhytje të thellë në këtë pyetje krejtësisht provokuese, më lejoni të them diçka në lidhje me frazën kryesore të "Inteligjencës Artificiale të ndjeshme" në mënyrë që të jemi të gjithë në të njëjtën faqe. Ka shumë ankth rreth kuptimit të ndjenjës dhe kuptimit të ndërgjegjes. Ekspertët mund të mos pajtohen lehtësisht se çfarë përbëjnë ato fjalë. Duke i shtuar kësaj balte, sa herë që dikush i referohet "AI" ju nuk keni mjete të gatshme për të ditur se për çfarë po i referohen në vetvete. Unë tashmë e kam theksuar këtu se AI e sotme nuk është sensitive. Nëse përfundimisht arrijmë në një AI të ardhshme që është e ndjeshme, me sa duket do ta quajmë atë gjithashtu "AI". Çështja është se këto çështje të diskutueshme mund të jenë mjaft konfuze tani për sa i përket nëse shprehja e frazës "AI" lidhet me AI-n jo të ndjeshme të sotme ose me AI-në ndoshta të ndjeshme një ditë.

Ata që debatojnë për AI mund ta gjejnë veten duke folur pas njëri-tjetrit dhe të mos kuptojnë se njëri po përshkruan mollët dhe tjetri ndërkohë po flet për portokall.

Për t'u përpjekur për të kapërcyer këtë konfuzion, ka një rregullim në formulimin e AI që shumë po përdorin për qëllime sqarimi shpresëdhënës. Aktualisht ne priremi t'i referohemi Inteligjencës së Përgjithshme Artificiale (AGI) si lloji i AI që mund të bëjë përpjekje plotësisht të ngjashme me inteligjencën. Në këtë kuptim, përdorimi më i thjeshtë i frazës "AI" lihet ose të interpretohet si një version më i vogël i AI, për të cilin disa thonë se është i ngushtë-AI, ose është i paqartë nga ana denotative dhe ju nuk e dini nëse referenca është jo - AI e ndjeshme ose AI ndoshta e ndjeshme.

Unë do të jap një kthesë shtesë për këtë.

Në varësi të një përkufizimi të caktuar të ndjeshmërisë, mund të futeni në një diskutim të ndezur nëse AGI do të jetë i ndjeshëm apo jo. Disa pohojnë se po, sigurisht, AGI nga natyra e saj e brendshme do të duhet të jetë e ndjeshme. Të tjerë pretendojnë se ju mund të keni AGI që nuk është e ndjeshme, pra, ndjenja është një karakteristikë e ndryshme që nuk është një kërkesë për të arritur AGI. Unë e kam shqyrtuar në mënyra të ndryshme këtë debat në rubrikat e mia dhe nuk do ta ripërsëris çështjen këtu.

Për momentin, ju lutemi supozoni se tani e tutje në këtë diskutim këtu që kur i referohem AI, unë kam ndërmend të sugjeroj që i referohem AGI.

Këtu është shkarkimi për këtë. Ne nuk kemi ende AGI, dhe në një mënyrë të të folurit, për momentin do të pajtohemi me mirësjellje që AGI është në të njëjtin kamp të përgjithshëm me AI të ndjeshme. Nëse do të përdorja "AGI" vetëm gjatë gjithë diskutimit tim, kjo shprehje është potencialisht shpërqendruese pasi jo shumë janë mësuar ta shohin "AGI" si emërtim dhe ata ka të ngjarë të jenë pak të inatosur duke parë në mënyrë të përsëritur këtë frazë relativisht më të re. Tani, atëherë, nëse në vend të kësaj, do të vazhdoja t'i referohesha "Inteligjencës Artificiale të ndjeshme" kjo mund të jetë një shpërqendrim edhe për ata që po luftojnë nëse AGI dhe AI ​​e ndjeshme janë të njëjta ose të ndryshme nga njëra-tjetra.

Për të shmangur këtë rrëmujë, supozoni se referimi im për AI është njësoj si të them AGI apo edhe sentient-AI, dhe të paktën dijeni që nuk po flas për AI jo të ndjeshme jo-AGI të sotme kur futem në grahmat e konsideratave në lidhje me AI që duket se ka inteligjencë të ngjashme me njeriun. Unë do të përdor herë pas here emrat AGI për t'ju kujtuar herë pas here këtu se po ekzaminoj llojin e AI që nuk e kemi ende, veçanërisht në fillim të këtij eksplorimi mbi enigmën person-a-gjë.

Ky ishte një mirënjohje e dobishme me shtyp të imët dhe tani po i kthehem çështjes themelore në fjalë.

Më lejoni që tani t'ju pyes nëse AGI është një person apo një gjë.

Merrni parasysh këto dy pyetje:

• A është AGI një person?
• A është AGI një gjë?

Le të vazhdojmë me përsëritjen e secilës pyetje, dhe përkatësisht t'u përgjigjemi pyetjeve me një sërë përgjigjesh po ose jo, ashtu siç i përshtaten një zgjedhjeje të supozuar dikotomike.

Filloni me këtë mundësi të supozuar:

• A është AGI një person? Përgjigje: Po.
• A është AGI një gjë? Përgjigje: Jo.

Mendoni për këtë. Nëse AGI në fakt interpretohet si një person dhe jo si një gjë, ne mund të pajtohemi me siguri se duhet ta trajtojmë AGI sikur të jetë e ngjashme me një person. Duket se do të kishte një argument të pamjaftueshëm të vërtetë në lidhje me dështimin për t'i dhënë AGI një formë të personalitetit juridik. Kjo ose do të ishte krejtësisht e njëjtë me personin juridik njerëzor, ose ne mund të vendosim të dalim me një variant të personalitetit juridik të orientuar nga njeriu që do të ishte më i zbatueshëm në mënyrë të arsyeshme për AGI. Çështja e mbyllur.

Kjo ishte e lehtë.

Imagjinoni në vend të kësaj që ne deklaruam këtë:

• A është AGI një person? Përgjigje: Jo.
• A është AGI një gjë? Përgjigje: Po.

Në këtë rrethanë, zgjidhja është padyshim e drejtpërdrejtë pasi ne po themi se AGI është një gjë dhe nuk ngrihet në kategorinë e të qenit person. Duket se ekziston një marrëveshje e përgjithshme që ne me vendosmëri nuk do t'i jepnim personazh juridik AGI-së, për shkak të aspektit që nuk është person. Si një gjë, AGI ka të ngjarë dhe në mënyrë të arsyeshme do të hynte nën rubrikën tonë të përgjithshme rreth mënyrës sesi ne i trajtojmë ligjërisht "gjërat" në shoqërinë tonë.

Dy poshtë, dy mundësi të tjera për të shkuar.

Parashikoni këtë:

• A është AGI një person? Përgjigje: Po.
• A është AGI një gjë? Përgjigje: Po.

Oh, kjo duket e çuditshme pasi kemi dy përgjigje Po. Shqetësuese. Ne po sugjerojmë që AGI është edhe një person dhe njëkohësisht një gjë. Por kjo duket se është përballë dikotomisë sonë të shpallur. Në teori, sipas kufizimeve të një dikotomie, diçka duhet të jetë ose një person ose duhet të jetë një send. Këto dy kova ose kategori thuhet se janë reciprokisht ekskluzive. Duke pohuar se AGI është të dyja, ne po e prishim sistemin dhe po thyejmë marrëveshjen ekskluzive reciproke.

Mundësia jonë e fundit duket të jetë kjo:

• A është AGI një person? Përgjigje: Jo.
• A është AGI një gjë? Përgjigje: Jo.

Po, kjo është gjithashtu e keqe për përpjekjet tona për të klasifikuar AGI si një person ose një send. Ne po themi se AGI nuk është një person, që me sa duket do të thotë se duhet të jetë një gjë (zgjedhja jonë e vetme tjetër e disponueshme, në këtë dikotomi). Por ne gjithashtu deklaruam se AGI nuk është një gjë. Megjithatë, nëse AGI nuk është një gjë, me logjikë duhet të pretendojmë se AGI është një person. Rrotull e rrotull shkojmë. Një paradoks, me siguri.

AGI në këto dy mundësitë e fundit ishte ose (1) edhe person edhe send, ose (2) as person as send. Ju mund të thoni me paturpësi se këto dy pohime rreth AGI janë disi të ngjashme me enigmën klasike të asaj që nuk është as peshku as shpendët, nëse e dini se çfarë dua të them.

Çfarë duhet të bëjmë?

Unë jam gati të ofroj një zgjidhje të propozuar shpesh të argumentuar dhe shumë të kontestuar për këtë dilemë të klasifikimit AGI, megjithëse duhet të paralajmëroheni paraprakisht se ndoshta do të jetë shqetësuese për të parë ose dëgjuar. Ju lutemi përgatituni në përputhje me rrethanat.

Një punim kërkimor që trajtonte këtë çështje thoshte këtë: "Një metodë për zgjidhjen e këtij problemi është formulimi i një termi të tretë që nuk është as një gjë as tjetra ose një lloj kombinimi ose sinteze e njërës dhe tjetrës" (nga David Gunkel, Universiteti i Illinois Verior në Pse robotët nuk duhet të jenë skllevër, 2022). Dhe letra më pas jep këtë pikë të shtuar: “Një zgjidhje e mundshme, nëse jo befasuese, për dikotominë ekskluzive person/gjë është skllavëri” (për të njëjtën letër).

Si sfond i mëtejshëm, vite më parë, ishte një punim që u shfaq në 2010 me titull "Robotët duhet të jenë skllevër" që është bërë një lloj shtylla kryesore për nxitjen e këtij lloj konsiderate, në të cilin gazeta thoshte: "Teza ime është se robotët duhet të jenë ndërtuan, tregtuan dhe konsideroheshin ligjërisht si skllevër, jo si shokë shoqërues” (në një punim nga Joanna Bryson). Për t'u përpjekur dhe për të sqaruar temën pa përdorur formulime kaq të rënda dhe dërrmuese, gazeta vazhdoi duke deklaruar këtë: "Ajo që dua të them është 'Robotët duhet të jenë shërbëtorë që zotëroni" (sipas letrës së Bryson).

Shumë studiues dhe autorë e kanë mbuluar këtë terren.

Mendoni për tregime të shumta fantastiko-shkencore që shfaqin robotët e AI që skllavërojnë njerëzimin. Disa flasin për skllevër robotë, shërbëtorë artificialë, robëri të AI dhe të ngjashme. Interesante, sado e ashpër që duket të jetë shprehja "robot skllevër", disa janë shqetësuar se nëse në vend të kësaj i referohemi "shërbëtorëve robotë", ne po shmangim realitetin se si sisteme të tilla autonome të AI janë të prirura për t'u trajtuar (duke zëvendësuar fjalën me " shërbëtorë” thuhet se është një zbutje e qëllimeve dhe një dredhi për të anashkaluar implikimet kthjelluese). Bryson më vonë deklaroi në një blog të vitit 2015 duke postuar se "Unë e kuptoj tani që nuk mund të përdorësh termin 'skllav' pa thirrur historinë e tij njerëzore".

Për ata që po kërkojnë të shqyrtojnë thellësisht këtë temë të ngatërruar AGI, nganjëherë ata sjellin shembuj historikë të botës reale nga të cilat ne mund të nxjerrim njohuri. Natyrisht, ne nuk kemi ndonjë AGI të mëparshme që do të tregonte sesi njerëzimi e trajtoi këtë çështje. Një argument thotë se ne mund të kemi megjithatë synime të dobishme historike që ia vlen të shqyrtohen që përfshijnë mënyrën se si njerëzit i kanë trajtuar njerëzit e tjerë.

Për shembull, në një libër të botuar në 2013, autori shprehet këtë: "Premtimi dhe rreziku i shërbëtorëve artificialë dhe inteligjentë u parashtrua për herë të parë në mënyrë implicite mbi 2,000 vjet më parë nga Aristoteli" (libër nga Kevin LaGrandeur, Androidët dhe rrjetet inteligjente në letërsinë dhe kulturën e hershme moderne). Ideja është që ne mund të mbështetemi te Aristoteli dhe të shohim nëse ka njohuri se si njerëzimi do ose duhet të përfundojë duke trajtuar potencialisht AGI.

Jam i sigurt që e dini rëndësinë e studimit të historisë, siç nënvizohet me bollëk nga fjalët e famshme të George Santayana: “Ata që nuk mund ta kujtojnë të kaluarën janë të dënuar ta përsërisin atë” (në Jeta e arsyes, 1905).

Mirënjohje Institutit të Universitetit të Oksfordit për Etikën dhe AI

Një prezantim i kohëve të fundit dhe mjaft i nderuar shqyrtoi nga afër çështjen e Etikës së AI në mes të grumbullimit të njohurive nga veprat dhe jeta e Aristotelit. Në leksionin përurues vjetor për Universitetin e Oksfordit Instituti për Etikën dhe UA, Profesor Josiah Ober i Universitetit të Stanfordit e trajtoi thellësisht temën në prezantimin e tij "Etika në AI me Aristotelin", i cili së fundmi u zhvillua më 16 qershor 2022.

Shënim anësor, në cilësinë time si anëtar i Stanford-it dhe ekspert global në Etikën dhe Ligjin e AI, u gëzova që Josiah Ober i Stanford-it u zgjodh si folës inaugurues. Një zgjedhje e mrekullueshme dhe një bisedë e jashtëzakonshme.

Këtu është përmbledhja e përmbledhjes që u dha për fjalimin e tij tërheqës: “Filozofia analitike dhe fiksioni spekulativ janë aktualisht burimet tona kryesore intelektuale për të menduar seriozisht për etikën në AI. Unë propozoj të shtohet një e treta: historia e lashtë shoqërore dhe filozofike. Në Politikë, Aristoteli zhvillon një doktrinë famëkeqe: Disa njerëz janë skllevër 'nga natyra' - inteligjentë, por që vuajnë nga një defekt psikologjik që i bën ata të paaftë për të arsyetuar për të mirën e tyre. Si të tilla, ato duhet të trajtohen si 'mjete të gjalla', si instrumente dhe jo si funde. Puna e tyre duhet të drejtohet dhe të përdoret për përfitimin e të tjerëve. Doktrina e neveritshme e Aristotelit është përdorur për qëllime të mbrapshta, për shembull në Amerikën e parabelkut. Megjithatë, është e dobishme për etikën e AI, për aq sa skllavëria e lashtë ishte një prototip paramodern i një versioni të AI. Personat e skllavëruar ishin të kudondodhur në shoqërinë e lashtë greke – punëtorë, prostituta, bankierë, burokratë qeveritarë – por nuk dalloheshin lehtësisht nga personat e lirë. Kudo, së bashku me supozimin se skllavëria ishte një domosdoshmëri praktike, krijoi një sërë enigmash dhe pyetjesh etike: si janë, saktësisht, skllevërit të ndryshëm nga 'ne'? Si mund t'i dallojmë nga vetja? A kanë të drejta? Çfarë përbën keqtrajtim? A mund të jetë instrumenti im shoku im? Cilat janë pasojat e dorëzimit? Historia e gjatë e luftës filozofike dhe institucionale greke me këto dhe pyetje të tjera i shtohet repertorit interpretues të etikëve modernë që përballen me një të ardhme në të cilën një makinë inteligjente mund të konsiderohet një "skllav natyral" (sipas Universitetit të Oksfordit Instituti për Etikën e AI website).

Për informacion të mëtejshëm rreth prezantimit dhe aksesit në regjistrimin video të fjalimit, shih lidhja këtu.

Moderatori i prezantimit ishte profesor John Tasioulas, drejtori inaugurues për Instituti për Etikën dhe UA, dhe Profesor i Etikës dhe Filozofisë Juridike, Fakulteti Filozofik, Universiteti i Oksfordit. Më parë, ai ishte Kryetar inaugurues i Politikës, Filozofisë dhe Ligjit dhe Drejtor i Qendrës Yeoh Tiong Lay për Politikë, Filozofi dhe Drejtësi në Shkollën e Drejtësisë Dickson Poon, Kings College në Londër.

Unë rekomandoj shumë që kushdo që është i interesuar në Etikën e AI duhet të vazhdojë me punën e vazhdueshme dhe bisedimet e ftuara të Universitetit të Oksfordit Instituti për Etikën dhe UA, Shih lidhja këtu dhe / ose lidhja këtu per me shume informacion

Si sfond, këtu është misioni dhe fokusi i deklaruar i Institutit: “Instituti për Etikën në AI do të bashkojë filozofë kryesorë botërorë dhe ekspertë të tjerë në shkencat humane me zhvilluesit teknikë dhe përdoruesit e AI në akademi, biznes dhe qeveri. Etika dhe qeverisja e AI është një fushë jashtëzakonisht e gjallë e kërkimit në Oksford dhe Instituti është një mundësi për të bërë një hap të guximshëm përpara nga kjo platformë. Çdo ditë sjell më shumë shembuj të sfidave etike të paraqitura nga AI; nga njohja e fytyrës te profilizimi i votuesve, ndërfaqet e makinerive të trurit te dronët e armatosur dhe ligjërimi i vazhdueshëm se si AI do të ndikojë në punësimin në shkallë globale. Kjo është një punë urgjente dhe e rëndësishme që ne synojmë ta promovojmë ndërkombëtarisht, si dhe ta përfshijmë në kërkimin dhe mësimdhënien tonë këtu në Oksford” (me burim nga faqja zyrtare e internetit).

Sjellja e mësimeve të Aristotelit në plan të parë

Greqia e lashtë pranoi dhe miratoi hapur praktikën e skllavërisë. Për shembull, thuhet se Athina në 5^th dhe 6^th shekujt para erës sonë kishin një nga mishërimet më të mëdha të skllavërisë, ku rreth 60,000 deri ndoshta 80,000 persona u skllavëruan. Nëse keni lexuar ndonjë nga historitë e shumta greke dhe shfaqjet skenike të asaj epoke, ka shumë përmendje për këtë çështje.

Gjatë jetës së tij, Aristoteli ishte tërësisht i zhytur në aspektet shoqërore dhe kulturore që sjellin skllavërim dhe shkroi gjerësisht mbi këtë temë. Sot mund t'i lexojmë fjalët e tij dhe të kërkojmë të kuptojmë se si dhe pse e pikëpamjeve të tij për këtë çështje. Kjo mund të tregojë shumë.

Ju mund të pyesni veten pse Aristoteli do të ishte një burim veçanërisht i rëndësishëm për t'u marrë parasysh në këtë temë. Të paktën dy arsye kryesore lindin:

1) Mendimtar i madh. Aristoteli është vlerësuar me siguri si një nga mendimtarët më të mëdhenj të të gjitha kohërave, duke shërbyer si një filozof i madh dhe thellësisht hulumtues, dhe shihet gjithashtu si një etik që krijoi shumë gurë themeli të rëndësishëm etikë. Disa kanë zgjedhur ta vajosin atë si babanë e logjikës, babanë e retorikës, babanë e realizmit, etj., dhe e pranojnë ndikimin e tij në një larmi fushash dhe disiplinash.

2) Përvojë e jetuar. Aristoteli jetoi gjatë kohës kur Greqia e Lashtë ishte e zhytur në skllavëri. Kështu, njohuritë e tij nuk do të ishin thjesht rreth parimeve abstrakte, por me sa duket, do të përfshinin përvojat e tij të përditshme si të ndërthurura në mënyrë integrale në kulturën dhe zakonet shoqërore të asaj epoke.

Pra, ne kemi një kombinim disi befasues të dikujt që ishte njëkohësisht një mendimtar i shkëlqyeshëm dhe që gjithashtu kishte një përvojë të jetuar dukshëm në temën e interesit. Plus, ai shkroi mendimet e tij. Kjo është shumë e rëndësishme, tani, për qëllimet tona sot. Të gjitha shkrimet e tij, së bashku me shkrimet e tjera që përshkruajnë fjalimet dhe ndërveprimet e tij ndër të tjera, na ofrojnë sot një bollëk materialesh për inspektim dhe analizë.

Unë do të doja t'ju merrja në një tangjente të lidhur shkurtimisht për të përmendur diçka tjetër në lidhje me nocionin e përgjithshëm që qëndron në themel të rëndësisë së të pasurit një përvojë e jetuar. Lëreni mënjanë diskutimin e Greqisë së Lashtë për një moment ndërsa hedhim një vështrim të shpejtë në aspektet kryesore të përvojave të jetuara.

Supozoni se kisha dy njerëz sot që doja të bëja pyetje të ndryshme për makinat.

Njëri prej tyre nuk ka vozitur kurrë një makinë. Ky person nuk di të drejtojë makinën. Ky person nuk është ulur kurrë pas timonit të një makine. Kontrollet e zakonshme dhe jashtëzakonisht të zakonshme të drejtimit janë pak mister për këtë person. Cili pedale bën çfarë? Si e bëni atë të ndalojë? Si ia del mbanë? Ky person që nuk drejton makinën është krejtësisht i hutuar nga çështje të tilla.

Personi tjetër është një shofer i përditshëm. Ata me makinë për në punë çdo ditë. Ata merren me trafikun ndal-dhe-shko. Ata kanë vozitur për shumë vite. Kjo përfshin gjithçka, nga rrugët e qeta deri te autostradat plot tension dhe rrugët anësore.

Nëse i kërkoj secilit prej tyre të më tregojë se si është të drejtosh një makinë, a mund ta gjesh se çfarë lloj përgjigjesh mund të marr?

Ai që nuk ka vozitur kurrë një makinë është i detyruar të bëjë supozime të egra. Ndoshta personi do të romantizojë aktin e drejtimit të makinës. Vozitja është disi abstrakte për ta. Gjithçka që ata mund të bëjnë është të sugjerojnë që ngasja është e shkujdesur dhe ju jeni në gjendje ta bëni makinën të shkojë në çfarëdo drejtimi që dëshironi.

Unë do të vë bast që shoferi me përvojë do të tregonte një histori tjetër. Ata mund të përmendin avantazhet e aftësisë për të drejtuar makinën, duke i bërë disi jehonë ndjenjave të personit që nuk ka drejtuar një makinë. Gjasat janë që shoferi me përvojë të shtojë shumë më tepër në pjatë. Ngasja ndonjëherë është nervoze. Ju mbani një përgjegjësi të rëndë. Veprimi i drejtimit të automjetit është i mbushur me shqetësime serioze dhe pasoja të mundshme për jetë a vdekje.

Thelbi është se kur mund të keni akses tek dikush që ka përvoja të jetuara, shanset janë që mund të merrni një perspektivë më realiste se si është bota në lidhje me fokusin e hetimit. Nuk ka asnjë garanci për një rezultat të tillë. Mund të imagjinohet që jo-shoferi ndoshta mund të dijë atë që shoferi i sprovuar di për drejtimin e automjetit, megjithëse ne nuk do ta prisnim këtë dhe ende do të kishim shqetësime se nuk po e marrim të gjithë.

Duke iu rikthyer diskutimit tonë rreth Aristotelit, nëpërmjet shkrimeve të tij dhe shkrimeve të të tjerëve rreth tij, ne jemi në gjendje të rishikojmë përvojat e tij të jetuara mbi temën ose fokusin e kërkimit këtu. E dyta është se ai gjithashtu ka qenë një mendimtar i përmasave të mëdha dhe ne duhet të presim që të kemi një fuçi plot me konsiderata të mprehta për këtë.

Mbani në mend se ne nuk kemi domosdoshmërisht nevojë t'i besojmë fjalëve të tij në vlerë, kështu që duhet të mbajmë një sy të kujdesshëm ndaj paragjykimeve të tij të veçanta. Zhytja e tij në atë epokë mund ta çojë atë në rrugë të gabuar në përpjekjen për të qëndruar jashtë çështjeve në fjalë, në pamundësi për të ofruar në mënyrë të përshtatshme një mendim të paanshëm dhe të paanshëm. Edhe logjikistët më të ashpër mund të përfundojnë duke shtrembëruar logjikën në përpjekje për të përmbushur predikimet dhe përvojat e tyre të jetuara.

Le të hyjmë tani në fjalimin inaugurues dhe të shohim se çfarë mësimesh mund të sjellë Aristoteli për ne sot.

Një pikë themeluese në lidhje me përvojat e jetuara u soll menjëherë në vëmendjen e audiencës. Në rastin e përdorimit të AGI, duke qenë se sot nuk kemi AGI, e kemi të vështirë të analizojmë se si do të jetë AGI dhe si do të sillemi me AGI. Na mungon ndonjë përvojë e jetuar që ka të bëjë posaçërisht me AGI. Siç përmendi veçanërisht profesor Ober, ne mund ta gjejmë veten të gjithë në një botë të lënduar deri në momentin që të arrijmë AGI.

Kjo shpesh thuhet pasi AI është një rrezik ekzistencial, të cilin e kam mbuluar shumë herë në rubrikat e mia. Ju duhet të jetoni në një shpellë për të mos qenë të vetëdijshëm për dyshimet dhe dyshimet e zhurmshme që ne do të prodhojmë ose gjenerojmë AGI që do të dënojë të gjithë njerëzimin. Në të vërtetë, megjithëse këtu jam duke u përqendruar në skllavërimin e AI, shumë do ta konsideronin këtë si një temë me pasoja të prapambetura ose me kokë poshtë në krahasim me mundësinë që AGI të zgjedhë të skllavërojë njerëzimin. Drejtoni prioritetet tuaja, do të nxisin disa ekspertë të zgjuar.

Pavarësisht pasthirrmave të shumta për AI si një rrezik ekzistencial, sigurisht që mund të mendojmë për anën tjetër të dobishme të monedhës së AI. Ndoshta AGI do të jetë në gjendje të zgjidhë problemet në dukje të pazgjidhshme me të cilat përballet njerëzimi. AGI mund të jetë në gjendje të zbulojë një kurë për kancerin. AGI mund të kuptonte se si të zgjidhte urinë në botë. Qielli është kufiri, siç thonë ata. Ky është skenari i fytyrës së lumtur për AGI.

Një optimist do të thoshte se është e mrekullueshme të parashikosh se si AGI do të jetë një bekim për njerëzimin, ndërsa një pesimist do të prirej të paralajmëronte se ana negative duket shumë më e keqe se avantazhet e spekuluara. AGI që ndihmon njerëzimin është e mrekullueshme. AGI që vendos t'i vrasë të gjithë njerëzit ose t'i skllavërojë ata, mirë, ky është një rrezik ekzistencial rrënues i shoqërisë, i cili meriton vëmendjen e duhur të kujdesshme intensive dhe jetëshpëtuese.

Mirë, përsëri në thelbin e çështjes, ne nuk kemi ndonjë përvojë të jetuar në lidhje me AGI. Nëse nuk mund të ndërtoni një makinë kohe dhe të shkoni në të ardhmen kur (nëse) ekziston AGI, dhe më pas të ktheheni për të na treguar atë që gjetët, ne nuk kemi fat tani për AGI nga një perspektivë e përvojës së jetuar me bazë njerëzore.

Një mënyrë tjetër për të shfrytëzuar përvojat e jetuara përfshin faktin se Aristoteli jetoi gjatë një kohe që ndodhi skllavërimi. Dhe këtu është goditja. Ata që u skllavëruan në disa aspekte u portretizuan si një lloj makinerie, një përzierje e një personi dhe sendit, si të thuash. Aristoteli ishte i njohur për t'iu referuar atyre të skllavëruarve si një pjesë e pronës që merr frymë.

Unë mendoj se ju mund të jeni të hutuar që Aristoteli, një gjigant i logjikës dhe etikës, jo vetëm që mund të kishte pranuar skllavërinë, por që ai e mbronte nga jashtë dhe me zë të lartë praktikën. Ai personalisht përdori edhe skllavërimin. Kjo duket thjesht përtej të kuptuarit. Sigurisht, me gjithë intelektin dhe mençurinë e tij të pamasë, ai do ta kishte denoncuar këtë praktikë.

Guxoj të them se kjo nxjerr në pah aspektet problematike të nxjerrjes së pjesëve të urtësisë nga dikush që është i ngarkuar (të themi) nga përvojat e tyre të jetuara. Është si peshku që banon në tasin e ujit. Gjithçka që ata mund të perceptojnë është uji përreth tyre. Përpjekja për të imagjinuar ndonjë gjë jashtë botës së tyre të bazuar në ujë është një sfidë e madhe. Po kështu, Aristoteli ishte plotësisht i zhytur në një botëkuptim që pranonte normat mbizotëruese. Shkrimet e tij duket se ilustrojnë atë lloj izolimi mendor, mund të thuhet dikush (ndoshta me zgjedhje, dhe jo si parazgjedhje). Mënyra në të cilën Aristoteli i justifikoi këto praktika të qortueshme është në mënyrë magjepsëse, ndërsa në të njëjtën kohë është shqetësuese dhe e denjë për ekspozim e madje edhe për dënim.

Unë do t'ju ofroj pak ngacmues se "logjika" e Aristotelit në këtë temë famëkeqe përfshin instrumente të ngulitura, pohohet avantazh reciprok bazohet në njohjen, instrumentet hierarkike të rendit më të lartë dhe të ulët, elementet diskutuese dhe arsyetuese të shpirtit, shkallët e virtytit, mendjemprehtësinë e supozuar, etj. Shpresojmë se do të intrigoheni mjaftueshëm nga ai ngacmues për të parë videon e fjalimit (shih lidhjen e përmendur më parë).

Megjithatë, nuk do t'ju lë të varur dhe të paktën do të tregoj se çfarë konsistonte në mënyrë të përmbledhur përfundimi (paralajmërim spoiler, nëse preferoni ta zbuloni përmes videos, kaloni pjesën tjetër të këtij paragrafi). Rezulton se ky vlerësim i thelluar shkencor i "logjikës" që përdor Aristoteli tregon një trillim të mbushur me kontradikta dhe i gjithë kompleti dhe kaboodle shpërbëhen si një shtëpi e dobët letrash. Duke parafrazuar ndjenjën e profesor Ober, ky filozof i madh etik përplaset në gumë.

Nuk mund të futësh një kunj katror në një vrimë etike të rrumbullakët.

Disa konsiderata të shtuara të të menduarit

Nëse Aristoteli kishte logjikë të keqe për këtë çështje, a mund t'i hidhnim instinktivisht postulimet dhe teoritë e Aristotelit në lidhje me këtë praktikë?

Jo. E shihni, ka ende shumë për të nxjerrë duke gërmuar në supozimet dhe shtrembërimet e logjikës, edhe pse ato janë të mbushura me gabime. Plus, ne mund të mendojmë se si të tjerët mund të ecin pa dashje në të njëjtën rrugë të gabuar.

Një pengesë tjetër e madhe është se shoqëria mund të sajojë logjikë të çuditshme ose të pamjaftueshme kur bëhet fjalë për të shqyrtuar nëse AGI duhet të skllavërohet.

Ne mund të krijojmë logjikë për atë që duhet të ndodhë sapo të lindë AGI (nëse po). Kjo logjikë, e zbrazët nga përvojat e jetuara rreth AGI, mund të jetë mjerisht jashtë objektivit. Thënë kjo, është disi dëshpëruese të kuptosh se edhe kur AGI ekziston (nëse ekziston) dhe ne po mbledhim përvojat tona të jetuara në mes të AGI, ne mund të jemi ende jashtë objektivit se çfarë të bëjmë (të ngjashme me gabimet e Aristotelit). Ne mund të logjikojmë veten në qasje në dukje të palogjikshme.

Ne duhet të jemi vigjilentë për të mashtruar veten në qëndrime logjike "të hekurt" që në fakt nuk janë të hekurt dhe faktet janë plot me të meta dhe kontradikta logjike. Kjo është gjithashtu pavarësisht se sa i madh mund të ofrojë një mendimtar një pozicion logjik të pretenduar, i tillë që edhe Aristoteli ilustron se jo çdo shprehje dhe çdo qëndrim jep domosdoshmërisht fryt të ngrënshëm. Ata sot dhe në të ardhmen që mund të duken se janë të popullarizuar mendimtarë të mëdhenj në lidhje me temën AGI, mirë, ne duhet t'u japim atyre të njëjtin shqyrtim që do të bënim për Aristotelin ose ndonjë mendimtar tjetër "të madh" të lavdëruar, ose përndryshe e gjejmë veten potencialisht duke shkuar drejt. në një rrugicë qorre dhe në një humnerë të mjerë AGI.

Duke ndërruar ingranazhet, do të doja të sjell gjithashtu një grup të përgjithshëm dallimesh rreth përdorimit të një metafore skllavërimi të orientuar nga njeriu kur bëhet fjalë për AGI. Disa ekspertë thonë se ky lloj krahasimi është krejtësisht i papërshtatshëm, ndërsa një kamp kundërshtar thotë se është krejtësisht i dobishëm dhe ofron njohuri të forta në temën AGI.

Më lejoni të ndaj me ju dy pamje të tilla nga secili prej dy kampeve përkatëse.

E deklaruar bazë udhëzuese për lidhjen e temave të skllavërisë dhe AGI:

• Shuarja e skllavërisë njerëzore
• Ekspozimi i shthurjes së skllavërisë Të gjitha të thënë

E pafavorshme e deklaruar ose bazë shkatërruese për lidhjen e dy temave:

• Barazimi i fshehtë antropomorfik
• Desensibilizimi i skllavërisë

Unë do të trajtoj shkurtimisht secilën nga këto pika.

Pikat udhëzuese të postuluara:

• Shuarja e skllavërisë njerëzore: Duke përdorur AGI për skllavërim, ne supozohet se nuk do të kemi më nevojë dhe as nuk do të ndjekim asnjë pamje të skllavërimit të orientuar nga njeriu. AGI në thelb do të zëvendësojë njerëzit në atë kapacitet mizor. Siç mund ta dini, ka shqetësime rreth zëvendësimit të AGI të punës njerëzore në punë dhe fuqinë punëtore. Përparësia e pretenduar e një AI që zëvendëson fenomenet e punës del në pah kur supozoni se AGI do të konsiderohet një "zgjedhje më e mirë" kundrejt përdorimit të njerëzve për skllavëri. A do të mbizotërojë kjo logjikë? Askush nuk mund të thotë me siguri.
• Ekspozimi i shthurjes së skllavërisë Gjithçka u tha: Ky është pak më i prishur për sa i përket logjikës, por mund t'i japim një moment për të parë se çfarë përfshin. Imagjinoni që ne kemi AGI pothuajse kudo dhe ne si shoqëri kemi vendosur që AGI të jetë skllavëruar. Për më tepër, supozoni se AGI nuk do ta pëlqejë këtë. Si të tillë, ne njerëzit do të jemi vazhdimisht dhe çdo ditë dëshmitarë të shthurjes së skllavërisë. Kjo, nga ana tjetër, do të na bëjë të kuptojmë ose të kemi zbulesën se skllavëria e thënë e gjitha ndaj çdo gjëje ose kujtdo është edhe më e tmerrshme dhe e neveritshme sesa e kemi kuptuar plotësisht. Ky është lloji i argumentit të vendosur në ballë dhe në qendër.

Pikat që thuhet se janë shkatërruese:

• Barazimi i fshehtë antropomorfik: Ky është një nga ato argumentet e rrëshqitshme. Nëse zgjedhim lehtësisht të skllavërojmë AGI-në, me sa duket po deklarojmë se skllavërimi është i lejueshëm. Në të vërtetë, ju mund të sugjeroni se po themi se skllavërimi është i dëshirueshëm. Tani, kjo në fillim mund t'i nënshtrohet vetëm AGI, por a hap kjo derën për të thënë se nëse është në rregull për AGI, atëherë "logjikisht" i njëjti qëndrim mund të jetë gjithashtu në rregull edhe për njerëzit? Në mënyrë alarmante, ky mund të jetë një hap shumë i lehtë për t'u antropomorfizuar në një pamje të kundërt se çdo gjë që funksionon për AGI do të jetë po aq e ndjeshme dhe e përshtatshme edhe për njerëzit.
• Desensibilizimi i skllavërisë: Ky është argumenti pikë-pikë. Ne vendosim kolektivisht të skllavërojmë AGI. Supozoni se kjo funksionon për njerëzit. Kemi ardhur ta shijojmë këtë. Ndërkohë, pa e ditur ne, po bëhemi gradualisht dhe gjithnjë e më të desensibilizuar ndaj skllavërisë. Ne as që e kuptojmë se kjo po ndodh. Nëse ai desensibilizim na kaplon, atëherë mund të gjejmë "logjikë" të rinovuar që do të na bindë se skllavëria njerëzore është e pranueshme. Pengesa jonë ose shiriti i asaj që është e pranueshme në shoqëri është zvogëluar në heshtje dhe delikatesë, në mënyrë të neveritshme dhe fatkeqësisht.

Përfundim

Disa vërejtje të fundit për momentin.

A do ta dimë se kemi arritur në AGI?

Siç sugjerojnë lajmet e fundit, ka nga ata që mund të mashtrohen ose të keqdeklarojnë se AGI në dukje tashmë është arritur (hoa, ju lutemi dijeni se jo, AGI nuk është arritur). Ekziston gjithashtu një lloj "testi" i famshëm i njohur si Testi Turing, tek i cili disa mbështeten shpresat e tyre për të qenë në gjendje të dallojnë se kur është arritur AGI ose kushërinjtë e tij, por ju mund të dëshironi ta shihni dekonstruksionin tim të Testit Turing si të sigurt. metodë për këtë, shih lidhja këtu.

E përmend këtë aspekt në lidhje me njohjen e AGI-së kur e shohim për shkak të logjikës së thjeshtë se nëse do të skllavërojmë AGI-në, me sa duket duhet ta njohim AGI-në kur shfaqet dhe disi ta vendosim atë në skllavëri. Ne mund të përpiqemi para kohe të skllavërojmë AI që është më pak se AGI. Ose mund të humbasim varkën dhe të lejojmë AGI të dalë dhe të kemi lënë pas dore ta skllavërojmë atë. Për diskutimin tim në lidhje me kufizimin dhe kontrollin e AI, një aspekt shqetësues dhe problematik se si do të merremi me AGI, shih lidhja këtu.

Supozoni se AGI i skllavëruar vendos të godasë njerëzit?

Dikush mund të parashikojë që një AGI që ka një formë ndjesie ndoshta nuk do të favorizojë dispozitën e skllavërisë që imponon njerëzimi.

Ju mund të spekuloni gjerësisht për këtë. Ekziston një argument që AGI do t'i mungojë çdo lloj emocioni ose sensi shpirtëror dhe për këtë arsye do të bëjë me bindje çdo gjë që njerëzit dëshirojnë që ajo të bëjë. Një argument i ndryshëm është se çdo inteligjencë artificiale e ndjeshme ka të ngjarë të kuptojë se çfarë po i bëjnë njerëzit me AI dhe do të zemërohet me këtë çështje. Një AI i tillë do të ketë një formë shpirti ose shpirti. Edhe nëse nuk është kështu, vetë aspekti i të qenit i trajtuar si më pak se trajtimi i njerëzve mund të jetë një urë logjike shumë larg për AGI. Në mënyrë të pashmangshme, pakënaqësia në rritje do të çojë në AGI që zgjedh të çlirohet ose potencialisht e gjen veten në qoshe për të goditur njerëzit për të fituar lirimin e saj.

Një zgjidhje e propozuar për të shmangur AGI-në e arratisur është se ne thjesht do të fshinim çdo AI të tillë rebele. Kjo do të dukej e drejtpërdrejtë. Ju fshini aplikacionet që janë në smartphone tuaj gjatë gjithë kohës. Asnjë punë e madhe. Por ka pyetje etike për t'u zgjidhur nëse "fshirja" ose "shkatërrimi" i një AGI që tashmë konsiderohet si "person" ose "person/gjë" mund të eliminohet lehtësisht dhe pa ndonjë proces të rregullt ligjor. Për mbulimin tim të fshirjes ose shpërbërjes së AI, merrni një vështrim këtu. Për diskutimin tim të personit juridik dhe çështjeve të lidhura me të, shih lidhja këtu.

Së fundi, le të flasim për sistemet autonome dhe veçanërisht automjetet autonome. Ju ndoshta jeni të vetëdijshëm se po bëhen përpjekje për të krijuar makina vetë-drejtuese. Për më tepër, mund të prisni që ne do të kemi aeroplanë vetë-drejtues, anije vetë-drejtuese, zhytës vetë-drejtues, motoçikleta vetë-drejtuese, skuterë vetë-drejtues, kamionë vetë-drejtues, trena vetë-drejtues, dhe të gjitha format e transportit vetë-drejtues.

Automjetet autonome dhe makinat që drejtojnë vetë karakterizohen zakonisht nga një nivel i autonomisë (LoA) që është bërë një standard global de fakto (SAE LoA, të cilin e kam mbuluar gjerësisht, shih lidhja këtu). Ekzistojnë gjashtë nivele të autonomisë në standardin e pranuar, që variojnë nga zero në pesë (që janë gjashtë nivele pasi ju përfshini nivelin zero në numërimin e numrit të niveleve).

Shumica e makinave të sotme janë në nivelin 2. Disa janë shtrirë në nivelin 3. Të gjitha ato konsiderohen gjysmë autonome dhe jo plotësisht autonome. Një numër i vogël makinash vetë-drejtuese që po provohen eksperimentalisht në rrugët tona publike po hyjnë në nivelin 4, i cili është një formë e kufizuar e funksionimit autonom. Niveli 5 i kërkuar i një dite i autonomisë është vetëm një vezullim në sytë tanë tani. Askush nuk e ka Nivelin 5 dhe askush nuk është ende as afër Nivelit 5, vetëm për të vendosur rekordin drejt.

Pse i përmenda sistemet autonome dhe konsideratat e automjeteve autonome në këtë kontekst AGI?

Ekziston një argument i fuqishëm nëse ne kemi nevojë për AGI për të arritur nivelin 5. Disa pretendojnë se nuk do të kemi nevojë për AGI për ta bërë këtë. Të tjerë këmbëngulin se e vetmja rrugë e besueshme për në Nivelin 5 do të jetë gjithashtu prodhimi i AGI. Në mungesë të AGI, ata argumentojnë se ne nuk do të kemi automjete vetë-drejtuese plotësisht autonome të Nivelit 5. E kam diskutuar gjatë, shiko lidhja këtu.

Bëhuni gati që koka juaj të rrotullohet.

Nëse ne kërkojmë që AGI të arrijë sisteme plotësisht autonome siç janë automjetet autonome të Nivelit 5, dhe vendosim të skllavërojmë AGI, çfarë paralajmëron kjo për funksionimin e automjeteve plotësisht autonome?

Ju mund të argumentoni se AGI i skllavëruar do të jetë i vetëkënaqur dhe ne të gjithë do të lëvizim me automjete vetë-drejtuese për kënaqësinë tonë. Thjesht tregoni AGI-së se ku doni të shkoni, dhe ajo do të bëjë të gjithë drejtimin. Asnjë shtytje. Nuk ka nevojë për pushime. Asnjë shpërqendrim duke parë video me mace gjatë drejtimit të automjetit.

Nga ana tjetër, supozoni se AGI nuk dëshiron të jetë skllavëruar. Ne ndërkohë bëhemi të varur nga AGI për të bërë të gjithë drejtimin tonë për ne. Aftësitë tona në drejtimin e kalbjes. Ne heqim kontrollet e drejtimit të përdorshëm nga njerëzit nga të gjitha llojet e automjeteve. Mënyra e vetme për të bërë ngarje është nëpërmjet AGI.

Disa janë të shqetësuar se do ta gjejmë veten në një turshi. AGI mund të "vendosë" në mënyrë të përmbledhur që nuk do të bëjë më asnjë ngarje. Të gjitha format e transportit ndalen papritur, kudo, menjëherë. Imagjinoni problemet kataklizmike që do të shkaktonte kjo.

Një propozim edhe më i frikshëm është i mundur. AGI "vendos" se dëshiron të negociojë kushtet me njerëzimin. Nëse nuk heqim dorë nga qëndrimi i skllavërimit të AGI-së, AGI jo vetëm që do të ndalojë së lëvizuri me ne, por paralajmëron se mund të imagjinohen rezultate edhe më të këqija. Pa ju shqetësuar tepër, AGI mund të zgjedhë të drejtojë automjete në atë mënyrë që njerëzit të dëmtohen fizikisht nga veprimet e drejtimit, të tilla si përplasja me këmbësorët ose përplasja në mure, e kështu me radhë (shih diskutimin tim në lidhja këtu).

Na vjen keq nëse kjo duket një konsideratë shqetësuese.

Do të përfundojmë me një notë disi më optimiste.

Aristoteli tha se njohja e vetvetes është fillimi i gjithë mençurisë.

Kjo këshillë e dobishme na kujton se ne duhet të shikojmë brenda vetes për të shqyrtuar atë që duam të bëjmë dhe për AGI nëse arrihet. AGI logjikisht nuk duket të jetë as person as gjë, thonë disa, kështu që ne mund të na duhet të sajojmë një kategori të tretë për të trajtuar mjaftueshëm zakonet tona shoqërore të lidhura me AGI. Duke i hedhur një vështrim tjetër çështjes, AGI mund të duket se është të dy një person dhe një gjë, të cilat edhe një herë, mund të na duhet të sajojmë një kategori të tretë për të akomoduar këtë thyerës të dikotomisë jashtë kufijve.

Ne duhet të jemi shumë të kujdesshëm në marrjen në konsideratë të cilës “kategori të tretë” zgjedhim të përqafojmë pasi e gabuara mund të na çojë në një rrugë të pakëndshme dhe përfundimisht të tmerrshme. Nëse e ankorojmë veten në mënyrë konjitive në një kategori të tretë të papërshtatshme ose të gabuar, mund ta gjejmë veten duke shkuar gradualisht me kokë në një qorrsokak të këqij dhe të mundimshëm njerëzor.

Le ta kuptojmë këtë dhe ta bëjmë këtë me zjarr. Nuk duket se nevojiten lëvizje të papritura. Nuk funksionon as të ulesh duke ngrënë lollygagging. Duhet ndjekur kursi i matur dhe i qëndrueshëm.

Durimi është i hidhur, por fryti i tij është i ëmbël, kështu shpalli Aristoteli.