Den berömda brittiska fysikern Stephen Hawking sa i en artikel inspirerad av science fiction-filmen "Transcendence" med Johnny Depp i huvudrollen att underskatta hotet från artificiell intelligens kan vara det största misstaget i mänsklig historia.
I en artikel tillsammans med datavetenskapsprofessorn Stuart Russell från University of California vid Berkeley och fysikprofessorerna Max Tegmark och Frank Wilczek från MIT pekar Hawking på några framsteg inom konstgjord intelligens, och noterar självkörande bilar, Siris röstassistent och superdatorn. vinnaren av mannen i TV-frågespelet Jeopardy TV.
”Alla dessa resultat lyckas mot bakgrund av vad som väntar oss under de kommande decennierna. Framgångsrik skapande av konstgjord intelligens kommer att vara den största händelsen i mänsklig historia. Tyvärr kan det visa sig vara det sista, om vi inte lär oss att undvika risker,”citeras Hawking av den brittiska tidningen The Independent.
Professorer skriver att det i framtiden kan hända att ingen och ingenting kan stoppa maskiner med omänsklig intelligens från självförbättring. Och detta kommer att starta processen med den så kallade tekniska singulariteten, vilket innebär extremt snabb teknisk utveckling. I filmen med Depps deltagande används ordet "transcendens" i denna mening.
Föreställ dig sådan teknik som överträffar människor och driver finansmarknader, vetenskaplig forskning, människor och utvecklingen av vapen utanför vår förståelse. Om den kortsiktiga effekten av konstgjord intelligens beror på vem som styr den, beror den långsiktiga effekten på om den alls kan kontrolleras.
Det är svårt att säga vilka konsekvenser konstgjord intelligens kan ha på människor. Hawking anser att det är lite allvarlig forskning som ägnas åt dessa frågor utanför ideella organisationer som Cambridge Center for Study of Existential Risk, Institute for the Future of Humanity och forskningsinstitut för maskinell intelligens och framtida liv.
Enligt honom borde var och en av oss fråga oss vad vi kan göra nu för att undvika framtidens värsta fall.