Det ser ud til, at en måned ikke går forbi, uden at nogen højprofileret person kommenterer potentialet for maskiner med kunstig intelligens til at overtage verden. Elon Musk er optaget af, og siger, at AI-systemer er "potentielt farligere end nukes." Men han er ikke den eneste, Stephen Hawking er også bekymret, "Udviklingen af ​​fuld kunstig intelligens kan betyde slutningen på den menneskelige race," Professor Hawking fortalte BBC. ”Det ville starte på egen hånd og designe sig selv i en stadigt stigende hastighed.” Selv Bill Gates er bekymret, ”Jeg er i lejren, der er bekymret for super intelligens. Jeg er enig med Elon Musk og nogle andre om dette og forstår ikke, hvorfor nogle mennesker ikke er bekymrede. ”

De giver alle udtryk for bekymring over muligheden for, at magtfulde AI-systemer får utilsigtede eller endda potentielt katastrofale konsekvenser. Tilbage i januar donerede Elon Musk 10 millioner dollars til Future of Life Institute (FLI) for at køre et globalt forskningsprogram med det formål at holde AI til gavn for menneskeheden.

I dag har Future of Life Institute annonceret, at det har tildelt 7 millioner dollars i midler til 37 forskningshold over hele verden, så samfundet kan høste fordelene ved AI, samtidig med at man undgår apokalypsen og slutningen af ​​livet på jorden.

Faren med Terminator-scenariet er ikke, at det vil ske, men at det distraherer fra de reelle problemer, som fremtidig AI stiller.

Jaan Tallin, et af de grundlæggende medlemmer af FLI og den fyr, der skrev den originale version af Skype, sagde om den nye forskning, ”at opbygge avanceret AI er som at starte en raket. Den første udfordring er at maksimere accelerationen, men når den først begynder at tage fart, skal du også fokusere på styring. ”

Blandt de 37 projekter er tre projekter, der skal se på teknikker, der gør det muligt for AI-systemer at lære, hvad mennesker foretrækker frem for at observere vores opførsel. Et af disse projekter vil blive kørt på UC Berkeley, og et på Oxford University.

Benja Fallenstein ved Machine Intelligence Research Institute får $ 250.000 til at undersøge måder at holde interesserne i superintelligente systemer på linje med menneskelige værdier. Mens Manuela Velosos team fra Carnegie-Mellon University modtager $ 200.000 for at se på, hvordan man får AI-systemer til at forklare deres beslutninger for mennesker.

Andre projekter inkluderer en undersøgelse af Michael Webb fra Stanford University om, hvordan man kan holde de økonomiske virkninger af AI fordelagtige, et projekt om, hvordan man kan holde AI-drevne våben under "meningsfuld menneskelig kontrol", og et nyt Oxford-Cambridge forskningscenter til undersøgelse af AI -relevant politik.

Denne sidste er den store jackpot. Det nye center kaldet ”Strategisk forskningscenter for kunstig intelligens” ledes af Nick Bostrom, den fyr, der skrev bogen, der fik Elon til at få panik over menneskehedens fremtid. For at oprette centrum giver FLI Bostrom en seje 1,5 millioner dollars. Hvem sagde, at der ikke var penge i at skrive ting om robotter, der overtager verden? Faktisk ingen, bare se på hvor mange penge Hollywood tjener på den genre!

Når vi taler om Hollywood, prøver FLI at adskille sig selv fra apokalypsen. FLI er ivrig efter at understrege vigtigheden af ​​at adskille fakta fra fiktion. ”Faren med Terminator-scenariet er ikke, at det vil ske, men at det distraherer fra de reelle problemer, som den kommende AI stiller”, sagde FLI-præsident Max Tegmark. "Vi forbliver fokuseret, og de 37 hold, der støttes af dagens tilskud, skal hjælpe med at løse sådanne virkelige problemer."

Hvad synes du? Penge, der er brugt godt?