Grekarna var besatta av frågan om vad det egentligen betyder att vara mänskligt. Om och om igen utforskade deras legender utsikterna och riskerna för odödlighet, utvecklingen av mänskliga förmågor, dupliceringen av ett levande varelse. I favoritmyterna om Hercules, Jason och Argonauts, om trollkarlens Medea och ingenjören Daedalus, om gudens uppfinnare Hephaestus och den tragiskt nyfikna Pandora, väcktes huvudfrågan om gränsen mellan människa och maskin. Idag ger bioteknikutvecklingen och framstegen inom artificiell intelligens återigen relevans för frågan om konsekvenserna av att kombinera biologisk och teknisk. Vi kan säga att denna diskurs lanserades av de antika grekerna.
Medea, en mytisk trollkarl vars namn kommer från verbet "att uppfinna", hade många hemliga konst. Och bland dem är hemligheten med föryngring. Medea, för att visa sin styrka, dök upp inför Jason och Argonauts i form av en gammal, krokig gammal kvinna, först för att sedan förvandlas till en vacker ung prinsessa. Iason föll under förtrollningen och blev kär i henne. Han bad Medea att återuppliva ungdomskraften i sin äldre far, Esona. Medea pumpade allt blod ur den gamla mannens vener och ersatte det med medicinska örter.
Gamla Eson, plötsligt energisk och full av hälsa, förvånade alla, inklusive de äldre Pelias döttrar. De bad Medea att avslöja ett hemligt recept för att få liv i sin far. Men de visste inte att Pelius var Medeas långvariga fiende. Häxan fuskade genom att låta dem titta på hennes roll. Medan hon upprepade trollformler satte hon på en fantastisk show genom att blanda pharmaka (mediciner) i en speciell "föryngringskanna." Då tog Medea fram den gamla vallen, skar i halsen och kastade den i en enorm kittel. Abracadabra: på mirakulöst sätt dök ett friskt lamm lamm därifrån! De förtroende döttrarna återvände hem och försökte upprepa tricket med sin gamla far, upprepa magiska ord genom att skära halsen och skjuta honom i kokande vatten.
Naturligtvis dödade de Pelias. I berättelsen om Medea kombineras hopp och rädsla, ett evigt par reaktioner på vetenskapliga experiment på själva livet.
***
Den tidigaste avbildningen av Medea dök upp på en grekisk vas omkring 500 f. Kr. e. emellertid fanns muntliga traditioner i många århundraden tidigare. När Medea blandar innehållet i kitteln visas ett lamm från det. Medeas ram och lamm är föregångarna till Dolly, det första får som skapades i ett genetiskt konstruerat kloningsexperiment 1997.
Livsreplikation återupplivar arkaiska rädsla i oss. Doppelganger-effekten utmanar varje individs önskan att vara unik, oföränderlig.
Djupt genomträngda av metafysisk förståelse och förutsägelser om den framtida manipuleringen av människans natur verkar dessa forntida traditioner fantastiska i vår tid. Om du tittar på vad grekerna kallade bioteknologi (bios = liv, techne = skapat av vetenskapens konst) som en vetenskaplig undersökning, får antikens "science fiction" en konstig modern mening. Medea och andra biotekniska myter har inspirerat spökande, dramatiska föreställningar och minnesvärda illustrationer i klassiska vasmålningar och skulpturer.
Kampanjvideo:
Under tiden omkring 400 f. Kr. e. Archytas, en vän till Platon, gjorde en stänk med sin ångdrivna mekaniska fågel. Den helleniska ingenjören Heron i Alexandria uppfann hundratals automatiserade maskiner styrda av hydraulik och pneumatik. Andra hantverkare skapade rörliga figurer som gjorde ljud, öppnade dörrar, hällde vin och till och med attackerade människor. Det är uppenbart att de antika grekerna lockades av biotekniker.
Bakom dessa tekniska underverk ligger sökandet efter evigt liv. Grekerna trodde att Chronos mätte kvinnliga och manliga liv. Tiden delades in i förflutna, nutid och framtid. Frihet från tid lovade evigt liv, men väckte oroande frågor. Gå med flödet av oändlig tid - och vad händer då med minnen? Vad händer med kärlek? Kan skönhet existera utan död och ålderdom? Är uppoffring och heroism möjlig utan döden? De stora hjältarna från myter dog fysiskt, kvar i minnet efter döden, även om de blev Homers "kvittrande spöken" i underjorden. Myter skickar ett existensiellt meddelande: döden är oundviklig, och faktiskt är utsikterna för mänsklig värdighet, oberoende och heroism beroende av dödlighet.
I själva verket, efter att gudarna ger dem ett val, förkastar Achilles och de andra hjältarna ett liv med tröst och lathet, evigt liv. I myter väljer stora hjältar och hjältinnor resolut ett kort, minnesvärt liv fullt av ära, risk och mod. "Om vårt liv är kort, låt det fyllas med härlighet!" En konstgjord odödlig existens kan vara attraktiv, men kommer den att vara stor och ädla?
Myterna om de modigaste hjältarna dramatiserar nackdelarna med odödlighet. När gudinnan Thetis kastar sin unga son Achilles i den magiska floden Styx för att göra honom okränkbar, håller hon honom vid hälen. På slagfältet i Troy dör den bästa grekiska mästaren för all sin skicklighet inte i en rättvis kamp, ansikte mot ansikte, som han hoppades, men på grund av en förgiftad pil som genomträngde Achilles häl. Sådana saker verkar obetydliga, men sådana oförutsedda sårbarheter är inneboende i avancerad bioteknologi.
***
Lusten att överskrida döden är lika gammal som människans medvetande själv. I det mytologiska rymden blir odödlighet ett dilemma för både gudar och människor. Myten om Eos och Typhon väcker problemet med att förhindra alla händelser och eventuella komplikationer. Eos var en odödlig gudinna som blev förälskad i den dödliga Typhon. Gudarna beviljade Eos begäran att hennes älskade leva för evigt. Men hon glömde att be om evig ungdom för sin utvalda.”När den hemska åldern krossade Typhon, förtvivlade Eos,” säger myten. Tyvärr fängslade hon sin älskade i ett fängelsehål bakom gyllene dörrar. "Där, utan styrkan att flytta de en gång böjliga lemmarna, störtar Typhon in i evigheten." I vissa versioner är Typhon utmattad av cikaderna, vars monotona sång är en oändlig grund för döden.
Typhons öde kastar en skugga på möjligheterna att förlänga människolivet. Genom att erkänna Typhon-dilemmaet som ingick i att begränsa åldrandet på obestämd tid, grundade biomedicinsk gerontolog Aubrey de Gray SENS Research Foundation (Strategies for the Engineering of Light Aging) 2009. SENS hoppas hitta ett sätt att undvika åldrande av celler eftersom själva döden är längre och längre bort.
I de djupaste antika myterna ställs frågan: befriar odödlighet en från lidande och sorg? I Gilgamesh-eposet, till exempel, längtar den namngivna hjälten från den mesopotamiska dikten efter odödlighet. Men om Gilgamesh hade fått evigt liv, skulle han ha tillbringat det i evig sorg för sin vän Enkidu.
Eller titta på ödet för den kloka centaur Chiron, mentor och vän till Hercules och Apollo. Hercules slog av misstag Chiron med en pil förgiftad av Hydra-giftet. Det fruktansvärda såret skulle aldrig läka. Chiron vred sig från outhärdlig smärta för att bli av med henne och bad gudarna om en välsignad död i utbyte mot hans odödlighet. Prometheus, titanen som avslöjade den gudomliga hemligheten med eld för människor, visade sig vara en annan odödlig som led av oändlig smärta. Zeus kedjade Prometheus till en klippa och skickade en stor örn att plocka på sin lever varje dag. Titans lever växte tillbaka över natten, och örnen plockade den rena igen. Då och då. Oändligt. Odödlighet.
Förnyelsemardrömmen avslöjas också i myten om den flerhövdade Hydra. Genom att försöka döda monsteret skar Hercules av sig alla huvuden, varefter två nya växte på sin plats. Slutligen brände han varje hals med en fackla, men det centrala huvudet på Hydra var odödligt och omöjligt att förstöra. Hercules begravde sitt oskadliga huvud i marken och rullade en enorm stenblock för att skrämma människor därifrån. Och till och med från tapparna från Hydra begravda djupt under jord fortsatte dödligt gift att osa. Den här gången förgiftades odödlighet bokstavligen.
Ett annat exempel: Jason och Argonauts hotades av en legion av hemska repliker. På spetsen av Medeas onda far höjde de en armé av draketänder och plogade fältet med hjälp av eldandande mekaniska tjurar, som Daedalus uppfann (författarens misstag: detta var inte ett led, utan en order; tjurar donerades av Hephaestus - ungefär ny). Han planterade drakens tänder i jorden. "Frön" grodde fram och från jorden framträdde oövervinnliga i deras mångfald, helt beväpnade skelettkrigare. Men den magiska skörden saknade en nyckelkvalitet: de kan inte beställas. De attackerar bara oavbrutet. Medeas far ville att armén skulle förstöra Argonauts. Dystra "robotar" var på väg mot Iason och hans män. Desperat för att stoppa den växande okontrollerbara mängden, Jason började kasta stenar i mängden. Skelettet "programmerades" för att döda den närmaste fiendenså de dödade varandra. Vissa forskare tror att den gamla sagan föregick Homer. Denna berättelse är ett olycksbådande undertecknande av den skrämmande uppgiften att hantera cybersoldater.
En annan mytesserie tillägnad den kretiska genen Daedalus är förknippad med mekanikens underverk. Det var han som gjorde den dronliknande örnen, som regelbundet stötte på levern av Prometheus. Hans mest kända experiment var att flyga på vingar och blev en kliché av tragisk arrogans. Da du beundrar flygningens magi, flög Daedalus 'son Icarus för högt. Solens hetta smälte vaxet, som höll ihop bronsens "fjädrar", vingarna krossade och Icarus kraschade ihjäl. Liksom andra myter om odödlighet och förbättring av mänsklig förmåga pekar historien på omöjligheten att förutsäga enkla men potentiellt dödliga tekniska ögonblick.
Enligt grekiska legender var Daedalus den första dödliga som skapade "levande statyer". De rörde bronsskulpturer som verkade vara riktigt förtjänade av liv: de rullade ögonen, svettade, grät, tappade, pratade och rörde sina lemmar. I sin verkstad skapades en biomimetisk ko av trä och skinn, så realistisk att hon lurade tjuren som parade sig med henne: Därmed tillfredsställde Daedalus drottningen Pasiphaes perversa passion. Resultatet var enandet av människa, maskin och djur i Minotaur, en hemsk varelse med en mänsklig kropp och ett tjurhuvud. Han var avsedd att bli kannibal, fängslad i labyrinten (även ett projekt av Daedalus), tills han en dag dödades av hjälten Theseus. Återigen smälte den forntida biotekniken mänskliga och maskiner tillsammans - och skapade ett monster.
***
Hephaestus, uppfinnings- och teknikguden, byggde också robotar som följde kommandon och rörde sig självständigt. Det var denna himmelske smed som i antiken hade den största biotekniska CV. Hephaestus skapade två mekaniska hundar av guld och silver för att skydda det kungliga palatset. Hans fyra robothästar drog vagnen, "sparkade upp damm med sina mässingshövar, viner." Efter att gudarna återupplivade den hackade hjälten Pelope, ersatte Hephaestus axelbladet med ett elfenbensinsats.
Hephaestus utvecklade flera "självgående" stativ på hjul som svarade på kommandon för att få mat och vin. Detta ledde till att han skapade en grupp guldpigor i livstorlek för att utföra sina order. De automatiserade tjänarna var "som riktiga unga flickor: med uppfattning och intelligens, styrka och till och med röst, utrustade med all odödlighetens kunskap." Vilken Silicon Valley AI-entusiast kan överträffa denna ambition?
Hephaestus underverk föreställdes av ett forntida samhälle som vanligtvis inte anses vara tekniskt avancerat. Bioteknologiska varelser har fascinerat en kultur som funnits i årtusenden innan robotarnas tillkomst, som kan vinna i komplexa spel, föra samtal, analysera mycket information och bestämma människors önskningar. Men vars önskemål kommer robotarna med artificiell intelligens att uppfylla? Vem kommer de att lära av?
Microsofts tonårschattbot med kvinnornamnet Tay är ett lärorikt exempel på vår tid. I mars 2016 började Tay arbeta på Twitter. Intrikat programmerad för att efterlikna de neurala nätverken i den mänskliga hjärnan, måste Thay lära av "vänner" - människor. Hon förväntades kunna föra intrikata konversationer utan filter och utan att övervaka sitt beteende. På bara några timmar förvandlade ondskapsfulla Twitter-följare Tay till ett internettroll med rasistiska och sexistiska taunter. Mindre än 12 timmar senare stängde skaparna av det. Thays mycket förstörbara inlärningssystem har dämpat optimismen kring självlärande AI: er och intelligenta robotar.
Forntida historiker Polybius och Plutarch beskrev en avsiktligt våldsam kvinnlig robot. Hon skapades för Nabis, den sista kungen i Sparta, i bild av sin onda hustru Apega. Den grymma tyrannen Nabis kom till makten 207 f. Kr. e. och under sin regeringstid utpressade han stora summor pengar från rika ämnen. Grekiska skulptörer firades för sina utomordentligt realistiska porträttstatyer med naturliga toner, människohår och glasögon. Nabis klädde denna väldigt realistiska skyltdocka i sin hustrus kläder, som täckte hans bröst, med naglar. Förmögna medborgare fick först mycket vin att dricka, varefter de, om de vägrade att betala, introducerades till Apega, vilket var mer övertygande. När de berusade gästerna stod upp för att hälsa "drottningen", kontrollerade kung Nabis spakarna dolda på robotens rygg. Hon lyftte upp armarna och grep mannen, stram åt hennes kram och fäst honom i hennes spikade bröst. För detta och andra grymheter avrättades Nabis 192 f. Kr. e. Århundraden senare uppfann medeltida tortyrare en primitiv version av denna sofistikerade spartanska "järnjungfru".
Eponet från Jason and the Argonauts, The Argonauts, har också en dödlig robot. Talos är en av Hephaestus mest minnesvärda skapelser. Han var en jättebrons krigare, programmerad att skydda ön Kreta, kastade stenblock när han närmade sig fartyg. Han hade också en annan stridsförmåga som härmar ett mänskligt drag. Som robot Apega kunde Talos utföra en kylande förvrängning av det universella tecknet av värme - en kram. Förmåga att värma sin brons kropp, kramade Talos offret och stekte henne levande. Hur undgick Jason och Argonauts detta bioniska monster?
Använda biotekniker som svar på biotekniker. Medea visste att Hephaestus skapade Talos med en enda artär genom vilken ichor, gudarnas mystiska livgivande vätska, cirkulerade mellan nacken och vristen. En bronsspik förseglade Talos "livssystem".
Medea övertygade Talos att hon kunde göra honom okränkbar genom att ta ut en bronsspik. Men när spiken drogs ut strömmade ichoren ur Talos som smält metall, och dess "liv" dog ut. Medea utnyttjade den eviga önskan från imaginära replikanter, från Talos till Frankinsteins monster till Blade Runner. Vi tror att mänskliga ambitioner är dolda i dem.
Det kulminerande projektet från Hephaestus-laboratoriet var en Android-flicka beställd av Zeus. Zeus ville straffa människor för att ha accepterat den himmelska hemligheten med eld som stulits av Prometheus. Och deras straff, skapad av Hephaestus, var Pandora ("den allt ätande"). Varje gud har försett henne med ett mänskligt drag. Pandora hade skönhet, charm, en talang för musik, kunskap om läkning och andra vetenskaper, intelligens, mod och, naturligtvis, en omättlig nyfikenhet. Pandora är gudarnas AI-agent. Hon framträder som en härlig ung flicka och skickades till Jorden med en förseglad låda innehållande en annan uppsättning "gåvor."
Den vänliga titanen Prometheus varnade människor för att Pandoras låda inte skulle öppnas. Kanske Stephen Hawking, Elon Musk och Bill Gates är vår tidens Promethean-titan? De varnade forskare för att det är nödvändigt att stoppa den hänsynslösa fascinationen för AI, för när människor väl har lanserats kommer de inte att kunna kontrollera det. Djupa inlärningsalgoritmer gör det möjligt för AI-datorer att extrahera sekvenser från enorma datamängder, extrapolera till nya situationer och fatta beslut utan mänsklig vägledning. AI-robotar kommer oundvikligen att börja uppfinna och ställa frågor själva. Datorer har redan utvecklat altruism och list på egen hand. Kommer AI att vara nyfiken på att upptäcka hemlig kunskap och bete sig i enlighet med dess logik?
***
Pandoras risktagande, nyfikna mänskliga natur drev henne att öppna bröstet. Pest, sorg, olycka flög ut ur Pandoras låda. I den enkla versionen av myten är det sista som flög ut ur Pandoras ruta hopp. Men i de mer detaljerade och mörkare versionerna, istället för hopp, var det sista i bröstet "förväntan på problem." I den här versionen fick Pandora panik och slängde locket och fångade framsynen inuti. Berövad förmågan att förutsäga framtiden har mänskligheten fått det vi kallar "hopp".
Sedan antiken har filosofer diskuterat om hopp är det bästa eller värsta i Pandoras ruta. Så länge människans uppfinningsriked, nyfikenhet och modighet fortsätter att utforska gränserna för biologiskt liv och död, människor och maskiner, kommer denna fråga att möta varje ny generation. Vår värld är naturligtvis enastående när det gäller teknisk kapacitet. Men den störande dragkampen mellan vetenskapliga mardrömmar och grandiosa drömmar är evig. De antika grekerna visste att det viktigaste draget för mänskligheten är frestelsen att komma ut "utanför människan."
Tidigare i år skapade ingenjörer hos den amerikanska vapentillverkaren Raytheon tre små, utbildningsbara robotar. De kallades av forntida namn: Zeus, Athena och Hercules. Med neurala system baserade på kackerlackor och bläckfiskar har små solkraftsdrivna robotar fått tre gåvor: förmågan att röra sig, attraktionen mot mörker och förmågan att ladda upp i solen. Roboterna lärde sig snabbt att mutera och insåg snart att de antingen var tvungna att komma ut i det otroliga ljuset för att ladda eller dö. Denna till synes mild inlärningskonflikt kan jämföras med”kognitiv ekonomi”, där känslor hjälper hjärnan att fördela resurser och strategisätta. Andra AI-experiment lär datorer för att urskilja hur främlingar visar kärlek till varandra.och hur dödliga svarar på negativa och positiva känslor.
Efter att Hawking varnade för att "AI skulle kunna säga slutet på mänskligheten", har vissa forskare föreslagit att lära robotar om mänskliga värden och moral genom att berätta dem historier. Fabler, romaner och annan litteratur, till och med en databas över Hollywood-filmdiagram, kan fungera som en slags "folkguide" för datorn. Ett sådant system kallas Scheherazade, efter hjältinnan The Thousand and One Nights, en legendarisk persisk filosof-berättare som har memorerat ett stort antal berättelser om utrotade civilisationer. För tillfället är berättelserna enkla, de visar datorn hur en snäll, mentalt frisk person beter sig. För att utbilda robotar att sympatiskt interagera med människor och reagera på deras känslor på lämpligt sätt kommer mer komplicerade tomter att läggas till datorns repertoar. Idén äratt berättelser kommer att få värde när AI når den mänskliga nivån för den mentala färdigheten i "bärbart lärande", kan resonera symboliskt med analogier och fatta beslut utan att fråga.
Datorer kan modelleras efter den mänskliga hjärnan, men det mänskliga sinnet fungerar inte exakt som en dator. Vi lär oss att våra kognitiva förmågor och rationella tänkande beror på känslor. Berättelser vädjar till känslor, patos. Berättelser lever på så länge de väcker vaga känslor, så länge de resonerar med verkliga dilemma och är lämpliga för reflektion. I det avlägsna förflutet berättade grekerna historier för att förstå mänskligheten som var angelägen om att överskrida biologiska gränser. De biotekniska myterna är ett bevis på diskursens uthållighet kring vad det betyder att vara människa. Myternas insikt och visdom hjälper till att fördjupa våra samtal om AI. Kan vissa av dessa myter hjälpa AI att bättre förstå mänsklighetens motstridiga ambitioner? Kanske en dag kommer AI-ämnen att förstå de djupaste begär och rädsla för dödliga,avbildade i forntida myter och är medvetna om våra intrikata förväntningar på sig själva. Genom att lära sig att människor har förutsett dem och funderat över några av de utmaningar som kan komma i deras väg kan AI-ämnen ha en bättre förståelse för de utmaningar de förvirrar oss med.
Framväxten av en "kultur" av AI-robotar verkar inte längre långtgående. AI-uppfinnar och mentorer bygger redan logotypen, etos och patos för denna kultur. När människor förbättras genom teknik och blir mer och mer som maskiner, väcker något som liknar mänskligheten i robotar. Vi närmar oss det som vissa kallar robo-mänsklighetens nya gryning. När den dagen kommer, vilka myter ska vi berätta för oss själva? Svaret kommer också att avgöra hur och vad robotarna kommer att lära sig.
Av: Adrien Mayor
