Smarttelefoner, robotar och datorer gör livet lättare, men kanske förlorar vi något i processen? En reporter från en av publikationerna pratade med den amerikanska författaren Nicholas Carr om farorna och till och med hoten med överautomation.
Det är allmänt trott att automatisering av allt och alla förbättrar livskvaliteten. Datorer hjälper oss att uppnå högsta prestanda. Programvaror gör uppgifterna snabbare och enklare. Roboter tar på sig det tråkiga och hårda arbetet. Den ständiga strömmen av innovation från Silicon Valley förstärker bara människors tro att ny teknik gör livet bättre.
Men det finns en annan åsikt. Författaren Nicholas Carr utsätter postulaten i den moderna digitala världen för en opartisk analys. Hans uppsats "Gör Google oss dumma?", Publicerad i tidningen Atlantic 2008, är fortfarande kontroversiell, liksom hans bästsäljande bok The Shallows 2010.
Carr ses av anhängare av teorin att teknik kommer att rädda vår värld som en av deras mest kraftfulla motståndare. Och de som är försiktiga med konsekvenserna av tekniska framsteg för mänskligheten respekterar honom för ett balanserat resonemang.
Nu är Carr intresserad av en ny fråga: ska vi vara rädda för att det gradvis inte kommer att finnas några svåra uppgifter för oss i världen? Blir våra liv för effektiva tack vare ny teknik?
För kort tid sedan träffade journalisten (T. C.) författaren för att prata om sin nya bok, The Glass Cage: Automation and Us, och vad som fick honom att skriva den.
1. Avlägsna huvudmyten om ny teknik
Kampanjvideo:
"Vi brukade tro att effektivitet och komfort är bra som standard. Detta tillvägagångssätt är ganska naivt."
Tom Chatfield: Om jag förstår rätt, försöker du i The Glass Cage släppa myten om att förenklingen av våra liv tack vare tekniska framsteg nödvändigtvis är ett positivt fenomen.
Nicholas Carr: Både på en personlig och institutionell nivå är vi vana att tänka att effektivitet och komfort är bra som standard, och att maximera dem är verkligen ett värdigt mål. Det verkar för mig att denna strategi för teknik i alla dess former, särskilt i form av datorautomation, är ganska naiv. Detta gäller också våra egna önskningar och verkligheten i den moderna världen.
Kommer datorer någonsin att ersätta människor?
T. Ch.: Och ändå, de flesta anhängare av tekniska framsteg följer den utilitaristiska synvinkeln, enligt vilken de största misstagen vi gör beror på försummelse av effektivitet och logik och i själva verket vet vi inte vad som är bra för oss. Därför är teknisk framsteg från deras synvinkel att identifiera bristerna i mänskligt tänkande och sedan skapa system som skulle kompensera för dessa brister. Är denna åsikt fel?
N. K.: Å ena sidan har många innovationer i utvecklingen av datorteknologi och utvecklingen av automatiserade system ingenting att göra med den svepande påståendet att människor är mycket ofullkomna jämfört med datorer. Ja, en dator kan programmeras för att utföra vissa operationer på obestämd tid med jämn kvalitet. Och det är sant att en person inte kan detta.
Men vissa går ännu längre och hävdar att människor är för ofullkomliga, att deras roll bör begränsas så mycket som möjligt och datorer bör ansvara för alla grundläggande uppgifter. Det handlar inte bara om att försöka kompensera för mänskliga brister - tanken är att ta bort den mänskliga faktorn helt och hållet, som ett resultat av att vårt liv blir mycket bättre.
TC: Det verkar som om det här inte är den bästa idén. Finns det en optimal nivå av automatisering?
N. K.: Enligt min mening är frågan inte om vi behöver automatisera den här eller den komplexa uppgiften. Frågan är hur använder vi automatisering, hur exakt vi använder datorer för att komplettera mänsklig kunskap och färdigheter, kompensera för brister i mänskligt tänkande och beteende och också för att stimulera människor att utnyttja sin egen erfarenhet för att nå nya höjder.
Överlitlighet på mjukvara kan förvandla oss till datorövervakare och processflödesoperatörer. Datorer kan spela en mycket viktig roll eftersom vi bara är mänskliga - vi kan falla byte mot fördomar eller missa viktig information. Men faran är att det är för lätt att lägga ut alla våra funktioner till datorer, vilket enligt min mening skulle vara fel beslut.
2. Behöver du föra verkligheten närmare scenariot med ett videospel?
"Vi gillar datorspel just för att de inte är lätta att spela."
TC: Jag var glad att notera att du i din bok citerar videospel som ett exempel på interaktion i systemet "man-machine", där meningen är att övervinna svårigheter, inte att undvika dem. De mest populära spelen är ett slags arbete som ger spelaren en känsla av tillfredsställelse. Vi kan bara klaga på att det arbete som många av oss måste göra varje dag kräver mycket mindre skicklighet och ger oss mycket mindre glädje.
N. K.: Videospel är mycket intressanta eftersom deras koncept strider mot de allmänt accepterade principerna för mjukvaruutveckling. Syftet med datorspel är inte alls att befria användaren från besväret. Tvärtom, de stimulerar spelaren att göra extra ansträngningar och maximera användningen av hjärnan. Vi tycker om videospel just för att de utmanar oss med allt större utmaningar. Vi befinner oss ständigt i svåra situationer - men inte i situationer som orsakar förtvivlan. Att övervinna varje ny nivå förstärker bara våra färdigheter.
Denna process liknar mycket hur en person får livserfarenhet i verkliga livet. Som vi vet, för att utveckla förmågor, måste en person möta allvarliga hinder gång på gång och övervinna dem gång på gång genom att använda all sin kunskap och färdigheter. Gradvis når en person en ny nivå, varefter svårigheterna med hinder ökar.
Jag tror att människor älskar videospel av samma anledning att de får tillfredsställelse genom att få nya upplevelser och övervinna hinder. Lösningen av en svår uppgift, i vilken processen ny kunskap förvärvas, nödvändig för att övervinna nya, ännu mer komplexa svårigheter, ger en person ett stort nöje.
En av de viktigaste problem som jag uttrycker i boken är att vår inställning till framsteg är förknippad med önskan att undvika att lösa svåra problem så mycket som möjligt. Det verkar för mig att denna synpunkt motsäger själva begreppet livstillfredsställelse och självförverkligande.
3. Kommer datorer att eliminera behovet av människor?
"Människor kan bara inte hålla jämna steg med datorer när de handlar med finansiella instrument"
TC: Till skillnad från videospel, i den verkliga världen är inte nödvändigtvis hårt arbete belönat. Den verkliga världen är orättvis och obalanserad. Den kanske mest oroande trenden här är att individens intressen (psykologiskt, personligen och även när det gäller överlevnad) alltmer upphör att sammanfalla med företags- och regeringsuppfattningar om fördelaktighet. Är du rädd att datorer äntligen kommer att ersätta människor?
N. K.: När jag samlade material till boken blev jag mycket rädd för en artikel (citat från vilka jag citerar i texten), skriven av en specialist i militärstrategi. Enligt honom, med tanke på den växande omfattningen av användningen av datorteknologier på slagfältet, kanske det snart inte finns plats för en person i militära frågor. Beslutsfattandet har ökat så mycket att människor helt enkelt inte kan hålla jämna steg med datorer. Vi går oundvikligen mot helautomatisk krigföring: drönare bestämmer själv när de ska avfyra missiler mot mål, och robotsoldater på marken kommer att bestämma när de ska skjuta.
Enligt min mening observeras denna situation inte bara i militära angelägenheter, utan också på många andra områden - till exempel i finansvärlden. Människor följer helt enkelt inte med datorer när de handlar till exempel med finansiella instrument.
Vad väntar oss? Vi kanske inte bara förlorar vår förmåga att kritiskt bedöma våra egna handlingar som skiljer oss från datorer - kanske kommer vi att implementera sådana system tankelöst och tro att det viktigaste är beslutsfattandets hastighet. Och då, om vi är övertygade om att vi hade fel, kommer vi att upptäcka att det inte vänder tillbaka. Mycket ofta visar det sig vara omöjligt att integrera en person i ett system som ursprungligen byggdes på datorteknik.
TC: Jag blev också förskräckt när jag läste ett avsnitt i din bok om automatisk krigföring. Jag fick en känsla av att processen som kommer att leda oss till helt autonoma stridssystem inte kan stoppas. En del av min skräck kommer från minnen från finanskrisen 2008, som nästan utplånade biljoner dollar. Åtminstone nu är människor mer ansvariga för sin ekonomi. Men om detta händer på militärområdet kommer inte dollar att förstöras, utan människoliv.
Dessutom verkar det som om det finns en tanke som hänvisar till din tidigare bok "Tom": dagens människor i biologisk mening skiljer sig inte så mycket från våra förfäder som levde för hundratals år sedan, men vi lever i en helt ny värld. konsekvenserna av vissa åtgärder har länge överskridit den hastighet som vi är vana vid. Detsamma gäller för nya uppfinningar - de själva, i form av information och algoritmer, liksom deras konsekvenser, sprids i en häpnadsväckande takt.
En framtid utan människor?
N. K.: Poängen är inte bara att ny teknik, särskilt teknik inom mjukvarufältet, idag kan replikeras och distribueras mycket snabbt. Poängen är att alla dessa processer sker i en konkurrensutsatt miljö. Oavsett om vi talar om ett vapenkapp eller affärskonkurrens, så snart en av rivalerna får en kortvarig fördel på bekostnad av en viss teknik, börjar de omedelbart introducera denna teknik där det är möjligt - eftersom ingen vill förbli i nackdel.
Jag tror att det i denna situation är för lätt att förlora det faktum att vi i huvudsak är djur. Människor har genomgått en evolutionär väg i årtusenden för att kunna leva och överleva. Mänsklighetens roll, liksom våra känslor av tillfredsställelse och självförverkligande, är nära besläktade med vår upplevelse av att leva i en värld som sätter vår vanliga takt.
Därför, när vi motsätter oss en person, med alla hans fysiska fördelar och nackdelar, mot en snabb och exakt dator, finns det en önskan att ge upp hela vårt liv till datorer. Vi glömmer dock att total underkastelse till datorn kommer att leda oss till ett liv där det blir lite utrymme för självförverkligande.
4. Hur automatiserar vi världen?
"Du kan innovera smart, men du kan göra det lätt"
TC: Jag tror att vi måste vara kritiska mot ny teknik, men jag är orolig för att människor förvandlar onödiga svårigheter och anti-teknologisk "äkthet" till en fetisch. Det finns en sådan modern tankekurs som berömmer hårt fysiskt arbete och hävdar att allt vi gör måste vara hantverkande och äkta. Jag anser att en sådan ställning smugar av snobberi och tar inte hänsyn till det enorma antalet positiva resultat som demokratiseringen av den tekniska utvecklingen har medfört.
N. K.: Jag håller helt med dig. I en intervju frågades jag hur min försiktiga inställning till framsteg hjälper till exempel människor som arbetar under svåra förhållanden på köttförädlingsanläggningar. Jag svarade att det naturligtvis alltid kommer att finnas en plats för automatisering av produktionen där arbetsvillkoren för människor måste förbättras. Det är bara att du kan förnya dig smart, eller så kan du göra det tankelöst; vi kan hitta ett sätt att ta hänsyn till värdet av mänsklig erfarenhet och vikten av självförverkligande, eller vi kan helt enkelt utvidga datorns kapacitet. Att göra rätt val är inte lätt. Om vi uppfattar denna uppgift uteslutande i svartvitt - antingen ställer vi blint upp för hårt, utmattande fysiskt arbete i några situationer, eller omvänt, ser meningen med livet i sybarism - kommer detta inte att hjälpa orsaken.
Människor skapar och använder konstant verktyg. Från tidigt tid måste vi fatta beslut med anknytning till arbetsdelningen med fördelningen av mängden arbete mellan en person och de verktyg som står till hans förfogande. Och det verkar för mig att datorns fantastiska effektivitet när det gäller att utföra ett brett spektrum av uppgifter bara komplicerar processen att fatta sådana beslut.
5. Vad väntar oss?
"Vi måste sträva efter att säkerställa att datorer berikar vår livserfarenhet och inte förvandlar oss till passiva observatörer av bildskärmar"
T. Ch.: Så vart är mänskligheten på väg?
NK: Naturhistorikhistorikern Thomas Hughes, som avled förra året, föreslog begreppet en teknologisk drivkraft. Han trodde att teknologier inbäddade i sociala strukturer och processer börjar utvecklas på egen hand och drar med sig samhället. Det är mycket möjligt att vår bana redan har fastställts och att vi kommer att fortsätta på vår nuvarande väg utan att ställa frågor om vi går i rätt riktning. Jag vet inte riktigt vad som kommer att hända. Det mest jag kan göra är att försöka resonera om dessa riktigt tuffa frågor efter bästa förmåga.
Jag hoppas att vi som individer och som medlemmar i samhället ska kunna upprätthålla en viss nivå av förståelse för vad som händer med oss, liksom en viss nivå av nyfikenhet, och vi kommer att fatta beslut baserade på våra långsiktiga intressen och inte på grundval av våra vanliga begrepp om bekvämlighet, snabbhet, noggrannhet. och effektivitet.
Det verkar för mig att vi måste sträva efter att säkerställa att datorer berikar vår livserfarenhet och öppnar upp nya möjligheter för oss och inte förvandlar oss till passiva observatörer av bildskärmar. Jag tror fortfarande att om vi får mer ut av ny teknik, kommer de att kunna göra vad teknologier och verktyg har gjort under hela mänsklighetens historia - skapa en mer intressant värld runt oss och hjälpa oss, bli bättre. I slutändan beror allt på oss själva.
Tom Chatfield