Tirsdag kveld la den 27 år gamle AI-forskeren Jacob Coxon ut en serie tweets som ble megavirale, og forklarte hans beslutning om å slutte i jobben hos Anthropic, kjent for AI-modellen Claude.
Jacob er ikke den første i bransjen som advarer om de potensielle konsekvensene av AI. Tidligere denne uken publiserte OpenAI-sjefforsker Jakub Pachocki et blogginnlegg der han skrev: «Jeg er bekymret for at ingen er forberedt på konsekvensene av en fortsatt rask økning i maskinintelligens.»
Men Jakobs advarsel er spesielt urovekkende. I sin virale tråd skriver han: «Folket som bygger AI tror oppriktig at det kan drepe oss alle innen slutten av tiåret.» Som noen som gjerne vil leve for å se 2031, høres det ikke bra ut!
Som svar er mange mennesker som: «Hei, vær så snill, ikke drep oss alle, takk så mye!»
På dette tidspunktet lurer du kanskje på, hvis så mange mennesker som jobber i AI er bekymret for konsekvensene, hvorfor fortsetter de å gjøre det de gjør? Ifølge Jacob kommer det ned på konkurranse.
Eller, som denne Twitter-brukeren svært veltalende oppsummerte det: «Hvis jeg ikke bygger Dick Smashing Machine, vil noen andre bygge Dick AND BALL Smashing Machine …»
Jacob avsluttet tråden med en oppfordring til andre AI-forskere om å tenke nøye gjennom hva de gjør. Han skriver: «Bør du legge hodet ned fordi ‘det skjer uansett’ – eller ta dette øyeblikket til å be om andre forhold?»
Evan Hubinger, leder for alignment science ved Anthropic, kom også med på tråden og hevdet at «vi virkelig tror at AI kan drepe alle mennesker!» Evan fortsatte med å presisere at han tror risikoen for at nåværende AI-modeller utsletter menneskeheten er «lav», men han bekymrer seg for hvordan fremtidige modeller som er i stand til selvforbedring kan oppføre seg.
En annen antropisk ansatt, skalerbar tilsynsleder Samuel Marks, meldte seg også for å bekrefte at AI-utviklere er bekymret for teknologien som fører til «menneskelig utryddelse». I sin tweet delte Samuel at han signerte et åpent brev sammen med mange andre arbeidere i AI-industrien, der han oppfordret industrien til å senke farten og ber om at den amerikanske regjeringen «støtter en internasjonal innsats for å utvikle de tekniske og styringsverktøyene som trengs for bevisst å ta fart på grensen til automatisert AI-utvikling».
President Donald Trump, som elsker en AI-slop-posting sent på kvelden mer enn kanskje noen andre i live, har tatt til orde for å kutte regelverket rundt AI.
Men som svar på Jacobs innlegg har andre lovgivere signalisert at de er villige til å regulere AI, inkludert senator Bernie Sanders.
Men andre er mer skeptiske til Jacobs påstander. Noen X-brukere har antatt at han hyper opp potensielle skader ved AI som en markedsføringstaktikk. Og andre, inkludert teknologijournalisten Taylor Lorenz, ser ut til å tro at det ikke utgjør noe mer enn «hellig dødsdomsposting.»
Og så er det selvfølgelig mange som lager mørke morsomme vitser om hva alt dette er, for det er den eneste måten å takle det på. Her er noen av mine favoritter:
Synger «Unwritten» truende:
Et relatert dilemma:
En betryggende tekst:
I min tid brukte vi solcelledrevne kalkulatorer under pultene våre i mattetimen, og det var greit!
Et viktig spørsmål:
Ikke bekymre deg, alle sammen, Anthropics (ikke ekte, veldig satiriske) direktør for Killing People, Adolph Bundy, sier at alt går etter planen.
Vi har kontaktet Anthropic og OpenAI for kommentarer, og vil oppdatere deg hvis vi hører tilbake. Hvis du trenger meg i mellomtiden, vil jeg krype rundt på Kristin Gjelsvik-kontoret og koble fra alle datamaskinene.
