Tanken att konstgjord intelligens oundvikligen kommer att leda oss till ett scenario där maskiner gör uppror mot människor är ganska populär. Konstgjord superintelligens verkar vara det största möjliga hotet, och de fantastiska berättelserna enligt vilka vi inte kommer att behövas i en värld som ägs av teknik har aldrig tappat popularitet.
Är det oundvikligt?
Den litterära och filmiska framställningen av intelligenta datorsystem från 1960-talet har bidragit till att forma och sammanfatta våra förväntningar på framtiden när vi går ut på att skapa maskininformation som överträffar mänsklig intelligens. AI har uppenbarligen redan överträffat människor i vissa specifika uppgifter som kräver komplex beräkning, men höll sig fortfarande kvar i ett antal andra funktioner. Hur man samtidigt kan öka kraften i detta hårda verktyg och bevara vår ekonomiska ställning över det.
Eftersom konstgjord intelligens redan spelar och kommer att fortsätta spela en stor roll i vår framtid, är det absolut nödvändigt att utforska våra möjligheter att samexistera med denna komplexa teknik.
Kevin Abosch, grundare av Kwikdesk, ett företag för databehandling och artificiell intelligens, delade sina tankar om detta. Han anser att konstgjord intelligens borde vara snabb, påtaglig, pålitlig, läskad och etisk. Ja, etiskt.
Etiska ramverk
Kampanjvideo:
Begreppet ett konstgjordt neuralt nätverk, modellerat efter ett biologiskt neuralt nätverk, är inget nytt. Enheter av datorkraft, kallad neuroner, ansluter till varandra för att bilda ett nätverk. Varje neuron tillämpar en sofistikerad inlärningsalgoritm på ingången, innan data överförs till andra neuroner, tills neuronet på utgången är aktiverad och öppnar möjligheten för läsning. Expertsystem förlitar sig på att människor”lär ut” systemet och planterar kunskapens frön. Logikmotorer letar efter matchningar, gör val, ställ in om-detta-då-då reglerna till kunskapsbasen. I denna process läggs ny kunskap till kunskapsbasen. Ett rent neuralt nätverk lär sig i processen att få icke-linjär erfarenhet, har inte problemet med att sådd kunskap av en expert. Hybridnät har visat sigsom förbättrar maskinernas inlärningsförmåga.
Låt oss nu titta på de etiska frågorna i sådana system. Längre från den första personen.
"Dålig kod" kontra bra kod
Författaren använder ord för att fördjupa läsaren i en fiktiv värld och gör det på olika sätt, men stora författare gör det väldigt graciöst. En programvaruingenjör skriver kodrader som underlättar bearbetning och förflyttning av data. Han kan också välja mellan ett antal alternativ på olika sätt, men de graciösa kodarna är datavetenskapliga. Den framåtgående kodaren fokuserar på hur man kapslar in så mycket och bättre som möjligt med kort och snygg kod. Redundant kod hålls till ett minimum. Fantastisk kod håller fönstret öppet för framtida tillägg. Andra ingenjörer kan lägga till kod med sin inneboende elegans, och produkten utvecklas sömlöst.
Varje konstgjord produkt är baserad på avsikt. Saker gjorda av människor är mättade med avsikter, och till en eller annan grad är bärare av själva skaparen. En del människor har svårt att föreställa sig ett livlöst föremål av denna natur. Men många håller med om detta. Intensionsenergin har funnits i tusentals år, förenar, delar, förenar, förvandlar samhället. Språkets kraft bör inte heller underskattas. Glöm inte att kodrader skrivs på ett specifikt programmeringsspråk. Därför är jag övertygad om att koden som blir mjukvara som används på datorer eller mobila enheter är mycket "levande".
Utan att överväga visdom och andlighet i samband med datavetenskap och de potentiella konsekvenserna av konstgjord intelligens, kan vi fortfarande se statisk kod som en enda enhet med potentialen att "göra gott" eller "göra ont." Dessa utgångar befinner sig bara i processen att använda applikationer av människor. Det är de tydliga val som människor gör som påverkar applikationens natur. De kan ses i ett lokalt system, bestämma den positiva eller negativa påverkan på det systemet eller baseras på en uppsättning fördefinierade standarder. Men precis som en journalist inte kan vara 100% opartisk i processen att skriva en artikel, så lägger en ingenjör frivilligt eller omedvetet till arten av sina avsikter till koden. Vissa hävdar att skrivning av kod är en logisk process och att verklig logik inte lämnar utrymme för naturen.
Men jag är säker på att det ögonblick som du skapar en regel, ett kodblock eller hela koden, är det hela genom ett element av mänsklig natur. Med varje ytterligare regel fördjupas artens penetration. Ju mer komplex koden, desto mer av denna karaktär i den. Därför uppstår frågan: "Kan kodens natur vara god eller ond?"
Uppenbarligen är ett virus som utvecklats av en hacker som skadligt bryter igenom din dators försvar och orsakar förödelse i ditt liv mättat med en ond natur. Men hur är det med ett virus skapat av de goda killarna för att infiltrera en terroristorganisations datorer för att förhindra terrorattacker? Vad är dess natur? Tekniskt sett kan det vara identiskt med dess avskyvärda motsvarighet, som bara används för "bra" syften. Så hans natur är snäll? Detta är hela etisk paradox för skadlig programvara. Men vi kunde inte ignorera det genom att tänka på den "onda" koden.
Enligt min mening finns det kod som i sig tvingas till "ondska" och det finns kod som i sig är partisk mot goodwill. Detta är viktigare i samband med offline-datorer.
På Kwikdesk utvecklar vi ett AI-ramverk och -protokoll baserat på mitt expertsystem / neuralt nätverk hybrid design, som mest liknar en biologisk modell. Neuroner manifesterar sig som I / O-moduler och virtuella enheter (på ett sätt autonoma agenter) anslutna med "axoner", säkra, separerade kanaler med krypterad data. Dessa data dekrypteras när de kommer in i neuronet och efter att vissa processer har krypterats innan de skickas till nästa neuron. Innan neuroner kan kommunicera med varandra genom en axon måste ett nyckelutbyte mellan deltagaren och kanalen äga rum.
Jag anser att säkerhet och separering bör byggas in i sådana nätverk från den lägsta nivån. Överbyggnader återspeglar egenskaperna hos deras minsta komponenter, så allt mindre än säkra byggstenar kommer att leda till osäker drift av hela linjen. Av denna anledning måste informationen skyddas lokalt och dekrypteras när de överförs lokalt.
Implementering och garantier
Vårt livskvalitet tillsammans med maskiner som blir smartare och smartare är förståeligt ett problem, och jag är helt säker på att vi måste vidta åtgärder för att säkerställa en sund framtid för kommande generationer. Hoten mot smarta maskiner är potentiellt olika men kan delas upp i följande kategorier:
Bokning. På arbetsplatser kommer människor att ersättas av maskiner. Denna förändring har pågått i årtionden och kommer bara att påskyndas. Tillräcklig utbildning behövs för att förbereda människor för en framtid där hundratals miljoner traditionella jobb helt enkelt kommer att upphöra. Det är komplicerat.
Säkerhet. Vi litar helt på maskiner och kommer att fortsätta att lita på. När vi i allt högre grad litar på maskiner när vi flyttar från ett säkert område till ett potentiellt faraområde kan vi riskera för maskinfel eller skadlig kod. Tänk till exempel på transport.
Hälsa. Personliga diagnostiska enheter och medicinsk data i nätverk. AI kommer att fortsätta att utvecklas i förebyggande medicin och analys av genetisk data för folkmassa. Återigen måste vi ha försäkringar om att dessa maskiner inte kommer att göra någon skadlig undertryck eller skada oss på något sätt.
Öde. AI förutspår med ökande noggrannhet vart du ska gå och vad du ska göra. När detta område utvecklas kommer han att veta vilka beslut vi tar, vart vi ska gå nästa vecka, vilka produkter vi kommer att köpa, eller till och med när vi dör. Vill vi att andra ska ha tillgång till denna information?
Kunskap. Maskiner samlar faktiskt kunskap. Men om de förvärvar kunskap snabbare än människor kan testa den, hur kan vi då lita på dess integritet?
Sammanfattningsvis vill jag notera att en vaksam och ansvarsfull inställning till AI för att mildra potentiella problem i en teknologisk supernovaexplosion är vår väg. Vi kommer antingen att tämja potentialen för AI och be att det bara ger det bästa för mänskligheten, eller så kommer vi att bränna ut i dess potential, vilket kommer att återspegla det värsta i oss.
Ilya Khel
