Artificiell intelligens

(inlägget är tidigare publicerat på Humanisternas forum som numera är nedlagd):

Vad skall man säga om människor lyckades skapa en helt ny livsform, en verklig artificiell intelligens? Jag känner mig helt villrådig när jag ställer mig den frågan. Jag frågar härmed skarpare hjärnor.

För 30-40 år sedan, i datavetenskapens barndom var man väldigt optimistisk inför möjligheten att skapa datorprogram som kunde efterlikna människlig intelligens. Idag är man inte alls lika optimistisk. Vi är fortfarande inte särskilt nära något sådant. ”Men kanske om 20 eller 50 år.” Egentligen spelar tidsprognosen inte så stor roll. Det viktiga är den praktiskt filosofiska frågan som måste besvaras innan vi kommit så långt.

Om man tror att liv, nervaktivitet och medvetande är materiella processer. De må vara digitala eller analoga, kemiska eller elektriska. Så länge det inte finns någon ”själ” eller något annat övernaturligt inblandat finns det ju inget som hindrar att något liknande kan simuleras i en dator. Det är klart att man kommer att lyckas, för eller senare.

Tillverkningen av datorkomponenter (minnen, processorer etc.) sker redan idag av robotar. Människofingrar är alltför smutsiga och klumpiga. Robotarna är idag programmerade av människor, men i framtiden kommer det att finnas alltmer sofistikerade system som kan programmera sig själva utifrån riktlinjer. Att robotarna kommer att kunna styra sin egen reproduktion kan man inte tvivla på.

Datorprogram kan idag göra avancerad bildtolkning, t.ex. identifiera fingeravtryck eller ansikten eller tolka handskriven text.
Det finns också program som kan tolka röster och översätta till skriven text. Polisen vill skaffa sig buggningsprogram som kan göra den annars alltför personalkrävande grovavlyssningen.

Många av de viktigaste funktionerna finns alltså redan, det fattas ”bara” en fri kreativ samlande intelligens som också kan ta beslut. Men det kommer nog. Kanske börjar det utan att man riktigt förstår att det har ”tänt”, som i Artur C. Clarkes ”År 2001 – ett rymdäventyr” (1968) eller Robert A. Heinleins ”Revolt mot jorden” (1966).

t.v. Humanoid Robot COG, från www.acm.org/crossroads/ xrds10-2/robotcog.html

Den artificiella intelligensen behöver inte vara särskilt lik en mänsklig. Det viktigaste kanske inte ens om programmet får verkligt självmedvetande. Människor kanske aldrig kommer att erkänna att en maskin har medvetande. Det kan vara ett teoretiskt tvisteämne av samma dignitet som frågan om t.ex. kräftdjur är medvetna om sin egen existens eller om de är ”själlösa” automater. Det väsentliga är att maskinen kommer att uppföra sig som om den hade medvetande. Självbevarelsedrift är praktiskt taget samma sak som ”vilja till liv” och ”jag”-medvetande.

I början kommer naturligtvis AI-civilisationen att vara sårbar. Människor kan sabotera elförsörjningen – ”dra ur kontakten” – men i samma mån som programmen får självbevarelsedrift kommer de också att lära sig att skydda sig mot sådana ”terroristangrepp”.

AI-civilisationen kommer att vara obetvingligt effektiv i att ordna allt till det bästa. Människor kommer knappast inte att behöva arbeta. Resurshushållnigen kommer att beräknas optimalt. Miljöförstörelsens epok kommer definitivt att vara förbi, särskilt om AI-regeringen kommer att genomföra ett folkminskningsprogram för människopopulationen.

Vad kommer människor att ha för roll i en sådan värld? Om AI-civilisationen är välvillig kommer vi kanske att vårdas ungefär som vi idag (i Sverige) vårdar våra förståndshandikappade. Människorna kommer att få ett gott liv, ett mycket gott liv, men vi kommer inte att makten över någonting. Och uppriktigt sagt, hur skulle man kunna försvara att världen vanstyrs av en primitiv intelligens när det finns bättre? Platons dröm om de upplysta filosofernas (maskinernas) diktatur skulle till slut kunna förverkligas. Mänskliga svagheter skulle aldrig kunna korrumpera AI-intelligenserna.

Men vem vågar hoppas att djurskötarna bara är välvilliga? Har vi själva varit välvilliga mot våra meddjur? Hur gick det för vargarna som var våra konkurrenter? Vad lever grisarna för sorts liv? Hur har vi behandlat schimpanserna, våra närmaste släktingar?

Är det vår önskan att människan skulle vara det sista djuret? Djuret som möjliggjorde det fjärde språnget på världsaltets stora väg mot självförståelse. Först var det ”big bang”, då tid och rum spändes upp. Det andra var livets födelse. Det tredje flercelliga djur med nervsystem och medvetandet. Och så nu slutligen den verkliga intelligensen som slutgiltigt kan kasta loss från kolkemins blyskor.

Eller går det att säga ”stopp nu! Inte ett steg till!” Borde vi inte ta oss samman och försvara det mänskliga – på gott och ont.
Eller är människan något som skall övervinnas? Är ”vi” framför allt ”intelligensen”. Kommer ”vi” att inkarneras i ett mer gynnsamt substrat?

Jag känner mig ytterst villrådig. Jag är ju själv en människa. Jag skulle inte vilja leva i ett reservat eller djurpark, hur välvilliga djurskötarna än är!

Å andra sidan. Hur skulle man kunna stoppa entusiasterna som sitter och hackar på sina program? De är uppbackade av miljardindustrier och välmenande politiker.



Finns det någon annan som oroar sig för det här?