Arsyet për të rregulluar algoritmet e AI janë më të thjeshta se sa mendoni

A jeni i shqetësuar se inteligjenca artificiale do të pushtojë botën? Shumë e bëjnë. Nga Elon Musk që shqetësohet për DeepMind duke rrahur njerëzit në lojën e avancuar të Go në 2017, anëtarëve të Kongresit, politikëbërësve evropianë (shih Një qasje evropiane ndaj inteligjencës artificiale), dhe akademikë, ka këtë ndjenjë se kjo është dekada për të marrë seriozisht AI dhe ajo është duke u mbajtur. Megjithatë, jo për arsyet që mund të mendoni dhe jo për shkak të ndonjë kërcënimi aktual.

Këtu hyjnë algoritmet. Çfarë është një algoritëm, mund të pyesni? Mënyra më e thjeshtë për ta menduar atë është si një grup udhëzimesh nga të cilat makinat mund të kuptojnë dhe të mësojnë. Tashmë mund ta udhëzojmë një makinë që të llogarisë, përpunojë të dhëna dhe të arsyetojë në një mënyrë të strukturuar dhe të automatizuar. Sidoqoftë, problemi është se pasi të jepen udhëzimet e përmendura, makina do t'i ndjekë ato. Tani për tani, kjo është çështja. Ndryshe nga qeniet njerëzore, makinat ndjekin udhëzimet. Ata nuk mësojnë aq mirë. Por sapo ta bëjnë, ato mund të shkaktojnë probleme.

Unë nuk dua të bëj një argument sensacionalist rreth idesë që kompjuterët një ditë të tejkalojnë inteligjencën njerëzore, i njohur më mirë si argumenti i singularitetit (shih filozofin e NYU, David Chalmers' mendime mbi temën.) Përkundrazi, prodhimi mund të jetë shembulli më i mirë se pse algoritmet e AI kanë filluar të kenë më shumë rëndësi për publikun e gjerë. Dikush ka frikë se makinat do të përshpejtojnë jashtëzakonisht aftësitë e tyre në kurrizin tonë. Jo me ndonjë arsyetim të avancuar, domosdoshmërisht, por për shkak të optimizimit brenda kufijve të asaj që thotë një algoritëm.

Prodhimi ka të bëjë me prodhimin e gjërave. Por kur makineritë bëjnë gjëra, ne duhet t'i kushtojmë vëmendje. Edhe nëse ajo që bëjnë makinat është e thjeshtë. Unë do të shpjegoj pse.

Nga çizmet e shiut te celularët dhe mbrapa

Thuaj, një fabrikë ka prodhuar çizme shiu. I dua çizmet e shiut sepse jam rritur në një zonë të Norvegjisë ku bie shumë shi; Më pëlqen të jem jashtë, duke iu nënshtruar shumë elementeve të natyrës. Nokia bëri çizmet e shiut me të cilat u rrita. Po, Nokia që ne e njohim sot si kompani elektronike e përdorur për të prodhuar çizme gome. Pse është ky çelës? Sepse sapo të bëni diçka, jeni të destinuar të dëshironi të bëni përmirësime. Që ka kuptim. Mund të thuash se kjo është natyra njerëzore.

Ajo që ndodhi me Nokia-n dihet mirë dhe shkon paksa kështu: Fillimisht një fabrikë letre, në kohën kur isha fëmijë, prodhimi i çizmeve (dhe gomave) gome ishte veçanërisht i suksesshëm për kompaninë. Megjithatë, ata panë mundësi të tjera. Prandaj, në një moment në vitet 1980, ata kaluan në elektronikë dhe ndryshuan me shpejtësi fabrikat përreth, duke ndërtuar një strukturë të madhe furnizuesish vendas kur filluan të prodhonin telefona celularë. Kjo çoi në revolucionin e komunikimit celular, i cili filloi në Skandinavi dhe u përhap në pjesën tjetër të botës. Kuptohet, shumë kanë shkruar historinë e Nokia-s në vitet 1990 (shih Sekretet pas mrekullisë finlandeze: ngritja e Nokia-s).

Shembulli im është i drejtpërdrejtë. Ndoshta, shumë e thjeshtë. Por mendoni për këtë në këtë mënyrë. Nëse një kompani e madhe mund të kalojë me shpejtësi nga prodhimi i letrës për të shkruar, te çizmet që e bëjnë më të lehtë të jesh jashtë në shi, më në fund, te telefonat celularë që ndryshojnë mënyrën se si njerëzit komunikojnë: sa i lehtë do të jetë hapi tjetër? Supozoni se një kompani që prodhon telefona celularë vendos të prodhojë nanobote dhe ndoshta ato të nisin brenda një dekade, duke ndryshuar njerëzimin me makina të vogla që qarkullojnë në mënyrë autonome kudo, të afta për të ribashkuar dhe ndryshuar përvojën njerëzore. Po nëse kjo ndodh pa marrë parasysh se si duam të ndodhë, kush duam të jemi në krye dhe qëllimet përfundimtare?

Të sugjerosh që robotët me vetëdije e ndihmuan Nokia-n të vendoste të prodhonte telefona celularë, do të ishte e vështirë. Por pranimi se teknologjia kishte një rol në lejimin e një zone rurale finlandeze në bregun e saj verior të mendonte se mund të fitonte dominimin botëror në një industri të re, luan një rol të rëndësishëm.

Historia e Nokia-s nuk ka qenë aq rozë gjatë dekadës së fundit, duke qenë se ata nuk arritën të merrnin parasysh shfaqjen e sistemeve operative iOS dhe Android të bazuara në softuer. Tani, si rezultat, Nokia nuk prodhon më telefona. Në një histori të vogël rikthimi, ata tani bëjnë infrastrukturën e rrjeteve dhe telekomit, zgjidhjet e sigurisë së rrjetit, ruterat Wi-Fi, ndriçimin inteligjent dhe televizorët inteligjentë (shih Historia e kthimit të Nokia-s). Nokia ende bën gjëra, kjo është e vërtetë. Vëzhgimi i vetëm për të bërë është se Nokia gjithmonë duket se kënaqet duke përzier gjërat që bën. Edhe vendimet e prodhimit të qenieve njerëzore ndonjëherë janë të vështira për t'u kuptuar.

Prodhimi do të thotë t'i bësh gjërat dhe gjërat të evoluojnë. Në përgjithësi, ajo që ne bëjmë sot ka ndryshuar nga vetëm një dekadë më parë. Printerët 3D kanë decentralizuar prodhimin e shumë produkteve të avancuara, si në industri ashtu edhe në shtëpi. Pasojat që ndryshojnë jetën e printimit 3D nuk kanë ndodhur ende. Ne nuk e dimë nëse kjo do të zgjasë, por ne e dimë se fokusi i FDA është në rregullimin e prodhimit të produkteve (shih këtu) si pilulat e printuara ose pajisjet mjekësore që pasojnë, problemet e dukshme të pronësisë intelektuale dhe përgjegjësisë, ose problemet rreth aftësisë për të printuar armë zjarri. Në fund të fundit, diskutimi i politikave mbi pasojat negative që mund të ketë printimi 3D përtej kësaj është inekzistent dhe pak prej nesh janë munduar të mendojnë për të.

Unë nuk po sugjeroj që printimi 3D është i rrezikshëm në vetvete. Ndoshta, ky është një shembull i keq. Megjithatë, gjërat që fillimisht duken të zakonshme mund ta ndryshojnë botën. Ka plot shembuj: maja e shigjetës së gjahtarit/grumbulluesit prej metali që nis luftërat, maska ​​rituale që na mbrojnë nga COVID-19, gozhdë që ndërtojnë rrokaqiejt, shtypshkronja të llojeve të lëvizshme që (ende) mbushin fabrikat tona me letër të shtypur dhe energji. biznes botues, llamba që të mundësojnë të shohësh dhe të punosh brenda natës, mund të vazhdoj. Askush për të cilin unë njoh nuk u ul në fund të viteve 1800 dhe parashikoi se Nokia do ta zhvendoste prodhimin e saj nga letra në gomë në elektronikë dhe më pas larg nga telefonat celularë. Ndoshta duhet të kenë.

Njerëzit janë parashikues të dobët të ndryshimit të hapave, procesit ku një ndryshim çon në më shumë ndryshime, dhe papritmas gjërat janë rrënjësisht të ndryshme. Ne nuk e kuptojmë ende këtë proces sepse kemi pak njohuri praktike për ndryshimin eksponencial; ne nuk mund ta imagjinojmë, ta llogarisim ose ta kuptojmë. Megjithatë, herë pas here, ajo na godet. Pandemitë, rritja e popullsisë, inovacioni teknologjik nga shtypja e librave te robotika, zakonisht na godet pa paralajmërim.

Truku me futurizmin nuk është nëse, por kur. Dikush mund të jetë në gjendje të parashikojë ndryshimin vetëm duke zgjedhur disa metoda të reja prodhimi dhe duke deklaruar se ato do të bëhen më të përhapura në të ardhmen. Kjo është mjaft e thjeshtë. Pjesa e ndërlikuar është të kuptosh saktësisht se kur dhe veçanërisht si.

Kapëse letre nuk janë problemi

Konsideroni përsëri shembullin tim të fabrikës, por këtë herë, imagjinoni se makinat janë përgjegjëse për vendime të shumta, jo të gjitha vendimet, por vendimet e prodhimit si optimizimi. Në librin e tij superinteligjencëHumanisti dystopik i Universitetit të Oksfordit, Nick Bostrom, imagjinoi në mënyrë të famshme një algoritëm optimizimi të AI që drejtonte një fabrikë kapëse letre. Në një moment, thotë ai, imagjinoni se makina arsyeton që të mësuarit për të devijuar burimet gjithnjë në rritje drejt detyrës është racionale, duke përfunduar duke e kthyer gradualisht botën tonë në kapëse letre dhe duke i rezistuar përpjekjeve tona për ta fikur atë.

Pavarësisht se është një djalë i zgjuar, shembulli i Bostrom është goxha memec dhe mashtrues (megjithatë, i paharrueshëm). Së pari, ai nuk merr parasysh faktin se njerëzit dhe robotët nuk janë më entitete të ndara. Ne ndërveprojmë. Shumica e robotëve të zgjuar po evoluojnë në kobot ose robotë bashkëpunues. Njerëzit do të kenë shumë shanse për të korrigjuar makinën. Edhe kështu, pika e tij themelore mbetet. Mund të ketë një ndryshim hapi në një moment, dhe nëse ai ndryshim ndodh mjaft shpejt dhe pa mbikëqyrje të mjaftueshme, kontrolli mund të humbet. Por ky rezultat ekstrem duket pak i largët. Sido që të jetë, jam dakord, ne duhet të rregullojmë njerëzit që përdorin këto makineri dhe të urdhërojmë që punëtorët të jenë gjithmonë në lëvizje duke i trajnuar në mënyrë të përshtatshme. Ky lloj trajnimi nuk po shkon mirë. Aktualisht kërkon shumë kohë dhe duhen aftësi specialiteti për t'u trajnuar dhe për t'u trajnuar. Unë di një gjë. Në të ardhmen të gjitha llojet e njerëzve do të operojnë robotë. Ata që nuk e bëjnë, do të jenë goxha të pafuqishëm.

Shtimi i njerëzve është më i mirë se automatizimi i pamend, pavarësisht nëse nuk bashkohemi kurrë plotësisht me makinat. Të dy konceptet janë logjikisht të ndryshëm. Është e mundur që të dy njerëzit dhe robotët të ngecin në automatizimin për hir të automatizimit. Kjo do t'i bënte dëm të madh prodhimit në vazhdim. Edhe nëse nuk prodhon robotë vrasës. Unë besoj se një bashkim është qindra vjet larg, por kjo nuk është çështja. Edhe nëse janë vetëm tridhjetë vjet larg, makinat vetëlëvizëse që funksionojnë sipas algoritmeve të thjeshta që humbasin kontrollin, ky skenar tashmë ndodh në katin e dyqanit. Disa nga ato makina janë tridhjetë vjet të vjetra dhe funksionojnë me sisteme të vjetra kontrolli të pronarit. Sfida e tyre kryesore nuk është se janë të avancuar, por e kundërta. Ata janë shumë të thjeshtë për të qenë në gjendje të komunikojnë. Ky nuk është problem për nesër. Është një problem i mëparshëm. Ne duhet të hapim sytë për të. Mendoni për këtë herën tjetër që do të futeni në çizmet tuaja të gomës.

Unë i kam ende çizmet e mia Nokia nga vitet 1980. Ata kanë një vrimë në to, por unë i mbaj për t'i kujtuar vetes se nga jam dhe sa larg kam ecur. Shiu vazhdon gjithashtu të bjerë, dhe për sa kohë që është mjaft i pastër, nuk dua një rregullim më të mirë se ato çizme. Pastaj përsëri, unë jam njeri. Një robot me sa duket do të kishte lëvizur tashmë. Cili është versioni i AI i rainboots, pyes veten. Nuk është celular. Nuk është një sensor shiu. E ngatërron mendjen.

Çizmet dixhitale sot nënkuptojnë se ju mund t'i personalizoni ato sepse kanë dizajne të printuara në 3D. Ka këpucë virtuale që ekzistojnë vetëm si NFT (tokena jo të këmbyeshëm) që mund të shiten dhe tregtohen. Atletet më të mira virtuale kushtojnë 10,000 dollarë këto ditë (shih Çfarë është një atlete NFT dhe pse ia vlen 10,000 dollarë?). Unë nuk kam frikë prej tyre, por a duhet të kem frikë? Nëse bota virtuale vlerësohet më shumë se bota fizike, ndoshta do ta bëj. Apo duhet të pres të shqetësohem derisa avatari i vetë një AI të blejë boot e tij NFT për të trajtuar "shiun"? Nëse ndërtojmë algoritme sipas imazhit tonë, ka më shumë të ngjarë që një AI do të ishte e mirë në gjërat në të cilat do të donim të ishim të mirë, por zakonisht nuk janë, të tilla si blerja e aksioneve, krijimi i miqësive besnike (ndoshta me makinat dhe njerëzit) dhe kujtimi. gjërat. Metaversi industrial mund të jetë çuditërisht i sofistikuar – plot binjakë dixhitalë që imitojnë botën tonë dhe e tejkalojnë atë në mënyra të frytshme – ose mund të jetë çuditërisht e thjeshtë. Ndoshta të dyja. Ne thjesht nuk e dimë ende.

Ne duhet të rregullojmë algoritmet e AI, sepse nuk e dimë se çfarë është afër. Kjo është një arsye e mjaftueshme, por sa i përket mënyrës se si e bëjmë këtë, kjo është një histori më e gjatë. Më lejoni edhe një vëzhgim të shpejtë, ndoshta të gjithë algoritmet themelore duhet të vihen në dispozicion të publikut. Arsyeja është, nëse jo, nuk ka asnjë mënyrë për të ditur se në çfarë mund të çojnë ato. Më të mirat janë mjaft të njohura (shih 10 Algoritmet kryesore të Mësimit të Makinerisë), por nuk ka asnjë pasqyrë mbarëbotërore se ku dhe si do të mësohen. Janë veçanërisht algoritmet e pambikëqyrur ato që duhen parë me kujdes (shih Gjashtë raste përdorimi të fuqishëm për mësimin e makinerisë në prodhim), nëse ato përdoren për të parashikuar mirëmbajtjen ose cilësinë, për të simuluar mjediset e prodhimit (p.sh. binjakët dixhitalë), ose për të gjeneruar dizajne të reja që një njeriu nuk do t'i mendonte kurrë. Në peizazhin e sotëm, këto algoritme të pambikëqyrura janë zakonisht të ashtuquajturat rrjete nervore artificiale, që përpiqen të imitojnë trurin e njeriut.

Kam filluar të shqetësohem për rrjetat nervore, vetëm sepse e kam të vështirë të kuptoj logjikën e tyre. Problemi është se shumica e ekspertëve, madje edhe ata që i përdorin ato, nuk e kuptojnë se si këto algoritme lëvizin nga hapi në hap ose nga shtresa në shtresë. Nuk mendoj se metafora e “shtresave të fshehura”, e cila përdoret shpesh, nuk është shumë e përshtatshme apo shumë qesharake. Nuk duhet të ketë shtresa të fshehura në prodhim, në mbledhjen e automatizuar të taksave, në vendimet e punësimit ose në pranimet në kolegj, si fillim. Ndoshta edhe ju duhet të mendoni të shqetësoheni? Një gjë është e sigurt, njerëzit dhe makinat që bëjnë gjëra së bashku do të ndryshojnë botën. Ajo tashmë ka, shumë herë më shumë. Nga letra te çizmet e shiut dhe shtresat e trurit artificial të sotëm, asgjë nuk duhet të lihet pa eksploruar. Nuk duhet të fshihemi nga fakti i thjeshtë se nga shumë ndryshime të vogla mund të shfaqet papritur një ndryshim më i madh.