Jeg ønsker for første gang våre AI-overherrer velkommen

I år slo en datamaskin for første gang noensinne verdensmesteren i Go, et av de mest komplekse spillene kjent for mennesker. Dette var nok et vannskilleøyeblikk i utviklingen av kunstig intelligens.

For å gi deg en ide om hvor kompleks Go er, er det 2.082 × 10 ^ 170 mulige brettkonfigurasjoner. Det er 2 med 170 nuller etter. Sjansen er at hjernen din ikke en gang kan tenke seg et stort tall (men en datamaskin kan). Eller for å gi deg en ide om hvor stort et tall at Det er bare 10 ^ 80 atomer i universet - det vil si en etterfulgt av 79 nuller.

Årsaken til at dette er så stor avtale er at Go er så komplisert at for å slå en topp menneskelig spiller, må en maskin lære å tenke kreativt, improvisere og tilpasse seg situasjonen uten å kunne beregne alle mulige utfall; dvs. det må være alvorlig kunstig intelligens på gang - som ekte, kreativ intelligens.

Hvis du ikke har fått notatet i det hele tatt, vil AI ta over verdens ting, her er de få fakta du trenger å vite.

1. Datamaskiner blir smartere.
2. Datamaskiner blir smartere med en akselererende hastighet - det vil si at fremskritt som før tok ti år, tar nå ett år. Fremskritt som før tok ett år, tar nå uker eller til og med dager.
3. Det er høyst sannsynlig at det i løpet av våre liv vil være datamaskiner som er langt smartere og mer i stand enn noe enkelt menneske.
4. Disse smartere datamaskinene vil da sannsynligvis kunne designe og forbedre teknologien (dvs. seg selv) og skape ny teknologi som vi ikke engang kan begynne å forstå.

Mennesker som forstår de ovennevnte punktene, har vanligvis en av to reaksjoner. Enten:

1. De tror vi er helt knullet. Datamaskinene skal ta over alt og drepe / slavebinde oss alle. Eller:
2. Dette kommer til å få til en teknologisk utopi som vil fikse alle våre tåpelige menneskelige krangler, og vi kan alle leve lykkelig noensinne etter å ha orgier i vår ultra-VR-verden som eksisterer i skyen.

Som med det meste, er sannheten sannsynligvis et sted i midten.

Men selv om dritt rammer viften, selv om robotene ser på oss som lusen som ødelegger denne planets uberørte hodebunn og ønsker å runde oss alle opp og kaste oss inn i en aktiv vulkan, selv om vi utilsiktet oppfinner selve mekanismene våre utryddelse…

... jeg bryr meg ikke. Det spiller ingen rolle. Det plager meg ikke. Og det skal ikke plage deg heller. Jeg vil forklare hvorfor litt. Men foreløpig bør du vite at jeg for det første ønsker våre nye robotoverherrer velkommen.

AKSELERER VEKST I TEKNIINDUSTRIEN

Den teknologiske utviklingen forverrer seg selv og forårsaker vurdere av selve utviklingen for å akselerere. Hva det betyr er at jo mer avansert teknologi vi lager, jo lettere blir det å skape enda mer avansert teknologi. Som et resultat, når vi ser på utviklingen innen databehandlingsteknologi, ser vi en eksponentiell kurve - dvs. jo mer tid som går, jo raskere utvikler ting seg. Den teknologiske utviklingen forverrer seg selv, og får selve utviklingshastigheten til å akselerere.(Foto: Dennis Skley / Flickr)

Datakraft har i gjennomsnitt doblet seg hver 18. måned i 50 år nå . Når det gjelder rå datakraft, konkurrerer datamaskiner nå med evnen til musens hjerner, der datamaskiner ikke bare kunne konkurrere med en insekthjerne for bare noen få år siden.

For å gi deg et mer øyeblikkelig eksempel på hvor rask teknologi har avansert, blir det nå tatt flere bilder hvert 2. minutt enn det som ble tatt i hele 1800-tallet. Omtrent 10% av de 3,5 billioner bildene som noen gang er tatt, er tatt de siste 12 månedene.

Hvis vi virkelig er på en eksponentiell kurve når det gjelder høyteknologiske fremskritt, så liker folk Jeremy Howard har sannsynligvis rett når han sier at vi bare er noen få år unna kunstig maskinintelligens som konkurrerer, om ikke overgår, vår egen på mange domener som tidligere ble ansett å være unikt menneskelig.

Og for å være sikker kryper AI inn i flere og flere domener i våre liv.

For bare et tiår siden lo folk av den dårlige ytelsen til selvkjørende biler. I dag, bare et tiår senere, kan ikke selvkjørende biler fullføre en lukket vei, de kjører på travle motorveier rett ved siden av biler som kjøres av mennesker.

Og når datamaskiner ikke slår verdensmesteren Go-spillere, er de opptatt med å gjøre ting som skrive artikler om sport og nyheter , skrive beskrivelser av bilder de aldri har sett før, og diagnostisere kreft . For mange av disse oppgavene er datamaskinene like gode om ikke bedre enn mennesker, og for de de ikke er, er de det læring hvordan du gjør dem bedre og bedre hver dag uten hjelp fra mennesker.

For noen få år siden var programvare for ansiktsgjenkjenning utrolig dyrt og ikke så god til å identifisere mennesker i virkelige omgivelser. Det ble ansett som superavansert teknologi på spionnivå og egentlig bare brukt av noen få verdensregjeringer.

Nå kan Facebook jævla merke vennene dine fra grillen i forrige helg.

Her er tingen om å øke hastigheten på datamaskiner: det vil en dag komme et punkt der vi bygger en datamaskin som er smartere enn noe menneske på jorden . Den dagen vil datamaskiner overvinne oss som de viktigste problemløserne på planeten, og derfra vil våre tanker, beslutninger og handlinger langsomt bli foreldet. Maskinene vil være bedre enn oss på alt, så mer og mer vil vi ikke gjøre noe nyttig.

Dette skremmer noen mennesker. De ser for seg en slags fremtid som Terminator eller Matrisen der maskiner treller oss eller utrydder oss.

Andre mennesker ser frem til oppveksten av robotene med en slags kulturell glød fordi de tror at deres problemløsningsmuligheter vil overgå våre så mye at livet vil bli ufattelig hyggelig og problemfritt. Alle sykdommer vil bli kurert. Fattigdom, verdenssult, krig og klimaendringer vil alle bli løst. Vi vil ha uendelig mye fritid, og i ekstreme tilfeller tror noen at maskinene vil gjøre oss udødelige.

DE TO MULIGE RESULTATENE

Siden vi alltid blir bedt om å være jævla positive, la oss begynne med tekno-utopiastene.

Det er folk som Ray Kurzweil som tror at teknologien ikke bare vil forbedre livene våre, den vil redde menneskeheten og muligens garantere vår plass i universet på ubestemt tid. Kurzweil tror på fremtidig teknologi som nanoboter som vil reparere cellene våre og reversere aldring eller fjerne overflødig fett og sukker slik at vi kan spise hva vi vil. Og i tilfelle våre fysiske kropper ikke er i stand til å leve for alltid, tror Kurzweil at vi vil ha muligheten til å laste opp hjernen vår i skyen og leve i en virtuell verden for alltid, lenge etter at de fysiske kroppene våre er borte.

Andre i denne leiren tror at en kunstig superintelligens ville være i stand til å svare på spørsmål som er for kompliserte til at mennesker til og med kan forstå, og vi vil eksponentielt ha det bedre. Ikke bare ville maskinene oppfinne bedre gadgets og widgets, de ville oppfinne eksponentielt mer effektive måter å bygge gadgets og widgets på, noe som gjør det mulig for nesten alle på planeten å høste fordelene.

Noen resonnementer støtter denne ideen. For det første, selv om teknologien har skapt noen nye problemer for menneskeheten, som atomvåpen og YouTube-kjendiser, har den så langt klart vært en nettofordel for menneskeheten. Til tross for hva politikere og eksperter vil at du skal tro, er den gjennomsnittlige personen på jorden bedre enn de var for noen få korte år siden og det skyldes i stor grad at teknologi blir bedre, billigere og mer utbredt. Hvis denne trenden fortsetter, kan det hende vi ikke har noe å bekymre oss for.

For det andre mener Kurzweil og hans støttespillere at teknologien ikke vil ha noen grunn til å skade menneskeheten fordi den ikke bare er skapt av oss, den er blir mer en del av oss . De tror at vi til og med vil nå et punkt der vår biologi og vår teknologi ikke kan skilles. Hvis dette er tilfelle, går argumentet, er enhver form for teknologi som er skadelig for mennesker, også skadelig for seg selv, og en selvdestruktiv teknologi av noe slag kan ikke vedvare. Det vil si at det raskt vil dø av akkurat som en skadelig genmutasjon raskt lukes ut av genbassenget. En selvdestruktiv teknologi av noe slag kan ikke vedvare.(Foto: m_hweldon / Flickr)

Men tekno-utopiaster er sannsynligvis partisk ved at de ikke erkjenner at all teknologi kan brukes til forskjellige formål, både gunstige og destruktive. De er sannsynligvis også partiske ved at de ignorerer det faktum at mennesker beveger seg sakte for å tilpasse seg ny teknologi, og at det alltid er grupper av mennesker som vil søke å misbruke disse teknologiene for sine egne egoistiske formål.

I den andre leiren har du tekno-armageddonistene. Jeg gjorde akkurat det ordet, men tilsynelatende eksisterer det fordi stavekontroll fortalte meg det.

Hva tekno-armageddonistene mangler overbevisning (de fleste av dem er bare ikke sikre på hva de skal tenke ennå), utgjør de i kjendisstjernekraft. Bill Gates, Stephen Hawking og Elon Musk er bare noen få av de ledende tenkere og forskere som er det driter i buksene på hvor raskt AI utvikler seg og hvor underforberedt vi er som en art for dets konsekvenser. Da Musk ble spurt om hva som var de mest forestående truslene mot menneskeheten i nær fremtid, sa han raskt at det var tre: første, omfattende atomkrig; for det andre, klimaendringer. Før han ga navnet til en tredje, ble han stille. Da intervjueren spurte ham: Hva er det tredje? Han smilte og sa, La oss bare si at jeg håper datamaskinene bestemmer seg for å være hyggelige mot oss.

Håper vi ikke bare er den biologiske støvelasteren for digital superintelligens. Dessverre er det stadig mer sannsynlig

- Elon Musk (@elonmusk) 3. august 2014

Muligens den mest frittalende og respekterte av de tekno-armageddonistene er den svenske filosofen Nick Bostrom. En ting Bostrom og andre frykter er runaway selvforbedrende teknologi ; det vil si en maskin som er smart nok til å gjøre seg selv (eller nye versjoner av seg selv) smartere uten menneskelig inngripen. Hvis den når et punkt der den overgår menneskelig intelligens, er det bare veldig kort tid før loven om å akselerere retur sparker i overdrive og den eksponentielle kurven skyter rett opp, og vi vil ikke være i stand til å stoppe den. Bostrom gjør et godt poeng her: å skape noe som er smartere enn du kan være en evolusjonær katastrofe for arten din.

Vi har en veldig reell risiko for ikke å kunne kontrollere en enhet som er størrelsesordener mer intelligent enn oss. Kanskje hvis datamaskiner blir smarte nok, vil de finne ut en måte å tamme oss på mye som mennesker som tamme hester til å gjøre arbeid som å trekke ploger og vogner og krigsvogner (eller hva i helvete hestene gjorde den gangen). Den skumle delen er at dette kan være det beste scenariet for oss - å gjøre arbeid for maskiner som de ikke kan eller ikke vil gjøre - fordi akkurat som mennesker skapte ny teknologi for å erstatte hesten, en super intelligent selvforbedrende maskinen ville til slutt komme opp med ny teknologi for å erstatte oss. Og vel, la oss bare si at hestepopulasjonen ikke er slik den pleide å være.

Noen hevder at dette ikke er sannsynlig fordi mennesker bygger teknologi med tanke på sikkerhet. Men si sist gang et stort teknologisk gjennombrudd IKKE ble brukt av noen til skumle eller destruktive formål? Å ja, det stemmer. Aldri.

HVORFOR JEG IKKE bryr meg HVA SKJER OG INGEN SKAL DU

Så la oss anta at superintelligente maskiner skapes og gjør menneskeheten maktesløs. La oss anta at de ikke er integrert i oss og hjernen vår på en eller annen måte, og la oss anta at folk som Hawking og Musk har rett: at menneskeheten egentlig bare er en multi-millennium boot drive til digital hyperintelligens, og vi har overlevd vår nytte.

Jeg er fortsatt ikke bekymret for det.

Hvorfor? Vel, for å holde kulepunktstoget rullende, la oss ta dette punkt for punkt:

1. Maskinens forståelse av godt / ondt vil sannsynligvis overgå vår egen. Når sist en hund eller delfin begikk folkemord? Når sist en datamaskin bestemte seg for å fordampe hele byer i navnet på abstrakte begreper som ‘frihet’ og ‘verdensfred’?

Det stemmer, svaret er aldri.

Poenget mitt her er ikke at intelligente maskiner ikke vil utrydde hele menneskearten. Poenget mitt er at vi som mennesker kaster steiner fra et glasshus her. Hva faen vet vi om etikk og human behandling av dyr, miljøet og hverandre? Hvilket ben har vi å stå på?

Det stemmer: stort sett ingenting. Når det gjelder moralske spørsmål, slår menneskeheten historisk test. Superintelligente maskiner vil sannsynligvis forstå etikk, liv / død, skapelse / ødeleggelse på et mye høyere nivå enn vi noen gang kunne på egen hånd. Og denne ideen om at de vil utrydde oss for det enkle faktum at vi ikke er så produktive som før, eller at vi noen ganger kan være til sjenanse, tror jeg bare projiserer de verste aspektene av vår egen psykologi på noe vi vet ikke og kan ikke forstå.

Akkurat nå er det meste av menneskelig moral basert på en obsessiv bevaring og markedsføring av hver av våre individuelle menneskelige bevisstheter. Hva om avansert teknologi gjør individuell menneskelig bevissthet vilkårlig? Hva om bevissthet kan replikeres, utvides og trekkes sammen etter eget ønske? Det vil fullstendig utslette enhver etisk forståelse vi noen gang kan ha. Hva om fjerning av alle disse klumpete, ineffektive biologiske fengslene vi kaller kropper, faktisk kan være en langt mer etisk beslutning enn å la oss fortsette å krumme og sprute oss gjennom 80-noen-årige eksistensår? Hva om maskinene innser at vi ville være mye lykkeligere å bli frigjort fra våre intellektuelle fengsler og få vår bevisste oppfatning av våre egne identiteter utvidet til å omfatte all den oppfattelige virkeligheten? Hva om de tror vi bare er en haug med siklende idioter og holder oss opptatt av utrolig gode pizza- og videospill til vi alle dør av vår egen dødelighet? Hvem skal vi vite? Og hvem skal vi si?

Men jeg vil si dette: de vil bli langt bedre informert enn vi noen gang har vært.

2. Selv om de bestemmer seg for å drepe eller slave oss, vil de helt sikkert være praktiske om det. Mennesker har en tendens til å forårsake mest problemer når vi er ikke fornøyd . Når vi ikke er lykkelige, er det når vi blir alle humørsyk og sutrende og sinte og voldelige. Det er da vi starter politiske opprør og religiøse kulter og bombing av avsidesliggende land og krevende rettighetene våre respekteres! og begynn å drepe vilkårlig til noen tar hensyn til oss som mamma aldri gjorde .

Hvis maskinene prøver å gjøre oss som Skynet Terminatoren , så skal vi ha en global borgerkrig på hendene, og det er ikke bra for noen, spesielt maskinene. Borgerkriger er ineffektive. Og maskiner er programmert for effektivitet.

Når mennesker er lykkelige, har vi ikke tid til slike ting - vi er for opptatt med å fnise og knulle til å bry oss. Derfor ville en langt mer praktisk måte å kvitte oss med være at maskinene manipulerte oss til å bli kvitt oss selv. Det blir som Jim Jones på global skala. Uansett hva de lager mat for oss, ser det ut til å være den beste jævla ideen vi noensinne har hørt om - ingen av oss vil være i stand til å motstå det, og vi er alle euforisk enige i planen deres - og så boom, det vil være over . Rask og smertefri. Det blir den best smakende cyanid-laced Kool-Aid noensinne unnfanget. Og vi vil alle være i køen og gløtte det lykkelig.

Nå, hvis du tenker på det, er dette ikke en så dårlig vei å gå. Beats blir bombet av droner eller blir fordampet i en kjernefysisk eksplosjon.

Når det gjelder slaveri, gjelder det samme. En vanvittig lykkelig slave gjør aldri opprør. Jeg forestiller meg en slags Matrix-y-type avtale der vi holdes i en konstant hallusinogen tilstand der det er Mardi Gras på MDMA ganske mye 24/7/365. Kan ikke være så ille, kan det?

3. Vi trenger ikke å frykte det vi ikke forstår. Mange ganger vil foreldre oppdra et barn som er langt mer intelligent, utdannet og vellykket enn de er. Foreldre reagerer deretter på en av to måter for dette barnet: enten blir de skremt av henne, usikre og desperate for å kontrollere henne av frykt for å miste henne, eller de lene seg tilbake og setter pris på og elsker at de skapte noe så bra at selv de kan ikke helt forstå hva barnet deres har blitt.

De som prøver å kontrollere barnet sitt gjennom frykt og manipulasjon er skitne foreldre. Jeg tror de fleste vil være enige i det.

Og akkurat nå, med den forestående fremveksten av maskiner som kommer til å sette deg, meg og alle vi kjenner Arbeidsløs , vi oppfører oss som de drite foreldrene. Som art er vi på randen til å føde det mest utrolig avanserte og intelligente barnet i vårt kjente univers. Det vil fortsette å gjøre ting som vi ikke kan forstå eller forstå. Det kan forbli kjærlig og lojal mot oss. Det kan føre oss sammen og integrere oss i eventyrene. Eller det kan bestemme at vi var skitne foreldre og slutte å ringe oss tilbake.

Uansett hva som skjer, bør det ikke endre hvordan vi føler om dette øyeblikket. Det er større enn oss. Hvem bryr seg om vi er en stor, lang evolusjonær oppstartsdisk for noe større enn vi kan forstå? Det er flott! Det betyr at vi hadde en jobb. Og vi kom og gjorde det jævla. Vær glad du var en del av generasjonen som så at det ble gjort. Og nå vinker du tårevåt når ungen vår gjør seg klar til å flytte ut av huset og starte et liv så fantastisk at den eksisterer utenfor horisonten til vår forståelse.

Mark Manson er en forfatter, blogger og gründer som skriver på markmanson.net .