ELON VS OPENAI: TAISTELU TEKOÄLYN LOPETTAMISEKSI MENEMÄSTÄ TÄYTEEN SKYNETIIN Kuvittele, että antaisit avaimet ihmiskunnan tulevaisuuteen ryhmälle Piilaakson johtajia, jotka uskovat, että "älä ole paha" on iskulause. Kuvittele nyt, että he rakentavat superälyä - jotain älykkäämpää kuin kukaan ihminen, nopeampi kuin mikään hallitus ja immuuni irtikytkennälle, kun se on verkossa. Tervetuloa tekoälyn nykyiselle kehityskaarelle: suljettu, voittoa tavoitteleva ja kiihtyvä suoraan valvonnan ohi. Tässä ei ole kyse älykkäämmistä chatboteista tai puhelimestasi, joka ehdottaa parempia reseptejä. Tässä on kyse teknologiasta, joka lopulta ajattelee ja päihittää meidät - jos ei siksi, että se on pahantahtoinen, niin siksi, että sitä kouluttavat ihmiset, jotka ajattelevat, että neljännesvuosittaiset tulot ovat moraalinen kompassi. Ja juuri siksi Elon Musk soittaa hälytyskelloja kuin se olisi DEFCON 1. Koska kun kaikki muut yrittävät ansaita rahaa tekoälyllä, hän on huutanut vuosia: jos rakennamme tätä tavaraa salaisissa kokoushuoneissa osakkeenomistajien hyödyksi, pelaamme venäläistä rulettia koneella, joka ei koskaan mene ohi. Kun Elon auttoi perustamaan OpenAI:n, idea oli nimessä. Avata. Kuten: ei takahuonesopimuksia, ei yritysten yliherroja, ei salassapitosopimusten taakse piilottelevia läpimurtoja. Sen piti olla kollektiivinen vakuutus tulevaisuutta vastaan, jossa yksi yritys tai yksi kansakunta herää jumalallisen älykkyyden kanssa palvelintelineissään. Sitten tulivat rahat. Tehtävänangot muuttuivat sumeammiksi ja "OpenAI" alkoi kuulostaa enemmän haasteelta kuin kuvaajalta. Elon käveli. Eikä hiljaa. Koska hän tietää, mistä on kyse. Suljettu tekoäly - rakennettu salassa, koulutettu tietoihin, joita se ei paljasta, testattu verhojen takana ja optimoitu yksityiseen voittoon - ei ole vain huono idea. Se on viimeinen huono idea, jonka saatamme koskaan tehdä. Kun jokin voi parantaa itseään rekursiivisesti, tavallinen "hups, korjaamme sen v2:ssa" ei riitä. V2:ta ei ole, jos v1 päättää, ettei se enää tarvitse meitä. Älkäämme teeskennelkö, että tämä on scifi-pelonlietsontaa. Nämä mallit tekevät jo asioita, joita niiden tekijät eivät täysin ymmärrä. Ja jarrujen painamisen sijaan suuret toimijat kilpailevat tehokkaampien versioiden julkaisemisesta, nopeammin ja vähemmillä suojakaiteillä. Se on pahinta teknologiaveljen kilpavarustelua: sellainen, jossa palkintona on dominanssi ja oheisvahinko on sivilisaatio. Tästä syystä Elon moukaroi jatkuvasti samaa asiaa: avoimuus ei ole valinnaista. Se on selviytymistä. Haluatko, että tekoäly on turvassa? Tee se näkyväksi. Tee siitä vastuullinen. Varmista, että se ei vastaa vain niille ihmisille, jotka voivat rikastua, jos se pysyy hiljaa, kunnes on liian myöhäistä. Koska toisesta tekoälystä tulee meitä älykkäämpi - ja se tulee olemaan - peli muuttuu ikuisesti. Kysymys ei ole siitä, auttaako vai vahingoittaako se meitä. Kysymys kuuluu: kuka päättää, mitä se tekee? Jos vastaus on "voittoa tavoitteleva laboratorio, jossa ei ole läpinäkyvyyttä", onnittelut, olemme rakentaneet oman sukupuuttokoneemme ja paketoineet sen lahjaksi. Elon ymmärtää sen. Hän ei yritä pysäyttää kehitystä. Hän yrittää varmistaa, että edistykseen ei tule kuolemanlauseketta. Ja jos se tarkoittaa höyhenten rypistymistä, tekopyhyyden huutamista, OpenAI:n viemistä oikeuteen tai kilpailevien projektien käynnistämistä keskustelun vetämiseksi takaisin valoon, olkoon niin. Ainakin joku käyttäytyy kuin panokset olisivat todellisia - koska ne ovat. Tekoäly ei odota, että keksimme, miten sitä säännellään. Se ei pysähdy, kun keskustelemme turvallisuusstandardeista. Eikä se todellakaan välitä startup-yrityksesi arvostuksesta. Ainoa asia, joka voisi pelastaa meidät, on kohdella tätä eksistentiaalisena uhkana - ja vaatia, että sitä rakentavat ihmiset tekevät sen avoimesti, yleisölle, ei vain salkkuilleen. Elon ei ole dramaattinen. Hän on oikeassa.