Vi säger att robotar kommer att stiga. Det kommer att ta över världen, ta kontroll över allt. Vi har hört dessa varningar i årtionden, och idag, i början av 2000-talet, växer antalet dessa varningar bara. Det finns en växande rädsla för konstgjord intelligens som kommer att avsluta vår art.
Sådana manus är inte bara upptäckt i Hollywood, utan också i allt högre grad stöttare inom det vetenskapliga och filosofiska området. Till exempel skrev Ray Kurzweil att den exponentiella tillväxten av konstgjord intelligens kommer att leda till en teknologisk singularitet, den punkt där maskinens intelligens kommer att överträffa mänsklig intelligens. Vissa ser detta som världens slut, andra ser bara möjligheter. Nick Bostrom tror att superintelligens skulle hjälpa oss att hantera sjukdomar, fattigdom och miljöförstöring samt förbättra oss själva.
På tisdagen anslöt sig den berömda forskaren Stephen Hawking till singularitetsprofeternas räkning, närmare bestämt till deras pessimistiska grupp, när han berättade för BBC att "utvecklingen av fullständig konstgjord intelligens kan betyda slutet på mänskligheten." Han tror att människor inte kommer att kunna tävla med AI, som kommer att kunna omprogrammera sig själv och nå en nivå överlägsen mänsklig. Hawking anser emellertid också att vi inte bör försöka kontakta utlänningar alls, eftersom de bara har ett mål: att dämpa oss eller förstöra oss helt.
Problemet med dessa scenarier är inte att de oundvikligen är fel - vem kan förutsäga framtiden? - eller inte tro science fiction-skript. Det senare är oundvikligt om du vill förstå och utvärdera modern teknik och deras inverkan på oss i framtiden. Det är viktigt att lägga våra filosofiska frågor på bordet i sådana scenarier och undersöka vår rädsla för att ta reda på vad som är viktigast för oss.
Problemet med att uteslutande fokusera på konstgjord intelligens i samband med”dommedag” och andra dödliga scenarier är att det distraherar oss från andra, mer pressande och viktiga etiska och sociala frågor som uppstår i samband med den tekniska utvecklingen inom dessa områden. Finns det till exempel en plats för integritet i informations- och kommunikationsteknologiens värld? Hotar Google, Facebook och Apple frihet i teknologvärlden? Kommer ytterligare automatisering att leda till förluster? Kan ny finansiell teknik hota den globala ekonomin? Hur påverkar mobila enheter miljön? (Till Hawkings uppskattning nämnde han integritet i intervjuer, men sedan talade han fortfarande om slutet av mänsklig ålder.)
Dessa frågor är mycket mindre attraktiva än superintelligens eller mänsklighetens slut. De tar inte heller upp frågor om intelligens eller robotar; de handlar om vilken typ av samhälle vi behöver och hur vi vill se våra liv.
Dessa frågor är uråldriga, de framträdde från själva uppkomsten av vetenskap och filosofi, och dagens växande informationsteknologi, som förändrar vår värld, får oss att tänka på dem igen. Låt oss hoppas att de bästa mänskliga sinnena i vår tid kommer att fokusera de flesta av sina energier på att hitta svar på rätt frågor, snarare än på demagogi kring överdrivna hot.
Ilya Khel
Kampanjvideo: