Selfverbeterende kunsmatige intelligensie (AI) kan in die toekoms mense verslaaf of doodmaak as hy wil. Dit is vertel deur die wetenskaplike Amnon Eden, wat meen dat die risiko's van die ontwikkeling van 'n vrydenkende en hoogs intelligente bewussyn baie hoog is, en 'as u nie alreeds in die huidige stadium aandag gee aan die kwessies van AI-beheer nie ontwikkeling, dan kom môre eenvoudig nie. " Volgens die Engelse uitgawe Express, is die mensdom volgens Amnon Eden vandag op die "punt van geen terugkeer" vir die implementering van die plot van die beroemde filmepos "The Terminator".
Dit is opmerklik dat dr. Amnon Eden 'n projekleier is, wie se hoofdoel is om die moontlike verwoestende gevolge van AI te ontleed. Sonder die korrekte begrip van die gevolge van die skep van kunsmatige intelligensie, kan die ontwikkeling daarvan met rampe bedreig word, meen die wetenskaplike. Tans is ons samelewing swak ingelig oor die debat wat in die wetenskaplike gemeenskap aan die gang is oor die ontleding van die moontlike impak van AI. "In die komende 2016 sal die ontleding van moontlike risiko's aansienlik meer wydverspreid moet word in die denke van korporasies en regerings, politici en diegene wat verantwoordelik is vir die neem van besluite," sê Eden.
Die wetenskaplike is seker dat wetenskapfiksie, wat die vernietiging van die mensdom deur robotte beskryf, binnekort ons algemene probleem kan word, aangesien die proses om AI te skep buite beheer is. Elon Musk het byvoorbeeld, met die ondersteuning van die entrepreneur Sam Altman, besluit om 'n nuwe niewinsorganisasie van $ 1 miljard te skep wat open source AI ontwikkel wat die menslike verstand moet oortref. Terselfdertyd beskou die Amerikaanse miljardêr Elon Musk self kunsmatige intelligensie onder die 'grootste bedreigings vir ons bestaan'. Steve Wozniak, wat mede-stigter van Apple was, het in Maart verlede jaar gesê dat "die toekoms skrikwekkend en baie gevaarlik vir mense lyk … uiteindelik kom daar 'n dag dat rekenaars vinniger sal dink as ons en dat hulle van stadige mense ontslae sal raak. sodat ondernemings doeltreffender kan werk."
Dit is opmerklik dat baie wetenskaplikes die bedreiging van AI sien. Tientalle bekende wetenskaplikes, beleggers en entrepreneurs, wie se aktiwiteite op een of ander manier verband hou met die ontwikkeling van kunsmatige intelligensie, het 'n ope brief onderteken waarin hulle meer aandag moet skenk aan die kwessie van veiligheid en sosiale nut van werk in die veld van AI. Astrofisikus Stephen Hawking en stigter van Tesla en SpaceX Elon Musk is een van die ondertekenaars van hierdie dokument. Die brief, tesame met 'n meegaande dokument, wat deur die Future of Life Institute (FLI) opgestel is, is geskryf te midde van toenemende kommer oor die impak van kunsmatige intelligensie op die arbeidsmark en selfs die langtermyn-voortbestaan van die hele mensdom in 'n omgewing waar die vermoëns van robotte en masjiene byna onbeheerbaar sal groei.
Wetenskaplikes verstaan die feit dat die potensiaal van AI vandag baie groot is, daarom is dit nodig om die moontlikhede van die optimale gebruik daarvan ten volle te ondersoek om die meegaande slaggate te vermy, lui die brief van die FLI. Dit is noodsaaklik dat mensgemaakte AI-stelsels presies doen wat ons wil hê hulle moet doen. Dit is opmerklik dat die Future of Life Institute eers verlede jaar gestig is deur 'n aantal entoesiaste, onder wie die skepper van Skype, Jaan Tallinn, om die risiko's wat die mensdom in die gesig staar te minimaliseer en navorsing te stimuleer met 'n 'optimistiese visie' van die toekoms”. In die eerste plek praat ons hier oor die risiko's wat die ontwikkeling van AI en robotika veroorsaak. Die FLI Advisory Board bevat Musk en Hawking, saam met die bekroonde akteur Morgan Freeman en ander bekende mense. Volgens Elon Musk is die onbeheerde ontwikkeling van kunsmatige intelligensie moontlik gevaarliker as kernwapens.
Die beroemde Britse astrofisikus Stephen Hawking het einde 2015 probeer om sy verwerping van AI -tegnologieë te verduidelik. Na sy mening sal superintelligente masjiene mettertyd na mense kyk as verbruiksgoedere of miere wat eenvoudig die oplossing van hul take belemmer. In 'n gesprek met gebruikers van die Reddit -portaal het Stephen Hawking opgemerk dat hy nie glo dat sulke superintelligente masjiene 'bose wesens' sal wees wat die hele mensdom wil vernietig vanweë hul intellektuele superioriteit nie. Heel waarskynlik is dit moontlik om te praat oor die feit dat hulle die mensdom eenvoudig nie raaksien nie.
'Die media verdraai my woorde die afgelope tyd voortdurend. Die grootste risiko in die ontwikkeling van AI is nie die kwaadwilligheid van die masjiene nie, maar hul bekwaamheid. Superintelligente kunsmatige intelligensie sal uitstekende werk doen, maar as dit en ons doelwitte nie saamval nie, sal die mensdom baie ernstige probleme ondervind,”verduidelik die beroemde wetenskaplike. Hawking het as voorbeeld 'n hipotetiese situasie genoem waarin 'n superkragtige AI verantwoordelik is vir die werking of bou van 'n nuwe hidro-elektriese dam. Vir so 'n masjien sal die prioriteit wees hoeveel energie die toevertroude stelsel sal opwek, en die lot van mense maak nie saak nie. 'Daar is maar min van ons wat miershope trap en uit woede op miere trap, maar laat ons ons 'n situasie voorstel - u beheer 'n kragtige hidro -elektriese kragstasie wat elektrisiteit opwek. As u die watervlak moet verhoog, en as gevolg van u optrede, sal een miernes oorstroom word, dan is dit onwaarskynlik dat die probleme van verdrinkende insekte u sal pla. Laat ons nie mense in die plek van miere plaas nie,”het die wetenskaplike gesê.
Die tweede moontlike probleem vir die verdere ontwikkeling van kunsmatige intelligensie, volgens Hawking, kan die 'tirannie van die eienaars van masjiene' wees - die vinnige groei van die gaping in die inkomstevlak tussen ryk mense wat die produksie sal kan monopoliseer van intelligente masjiene en die res van die wêreld se bevolking. Stephen Hawking stel voor om hierdie moontlike probleme op die volgende manier op te los - om die proses van AI -ontwikkeling te vertraag en oor te skakel na die ontwikkeling van nie 'universele' nie, maar hoogs gespesialiseerde kunsmatige intelligensie, wat slegs 'n baie beperkte reeks probleme kan oplos.
Benewens Hawking en Musk, is die brief onderteken deur die Nobelpryswenner en professor aan die MIT -fisika Frank Wilczek, die uitvoerende direkteur van die Machine Intelligence Research Institute (MIRI) Luc Mühlhauser, asook baie spesialiste van groot IT -ondernemings: Google, Microsoft en IBM, sowel as entrepreneurs wat die AI -ondernemings Vicarious en DeepMind gestig het. Die skrywers van die brief merk op dat hulle nie daarop gemik is om die publiek bang te maak nie, maar beplan om die positiewe en negatiewe aspekte van die skepping van kunsmatige intelligensie uit te lig. 'Op die oomblik is almal dit eens dat navorsing op die gebied van AI geleidelik vorder, en die invloed van AI op die moderne menslike samelewing sal net toeneem', sê die brief, 'die geleenthede wat vir mense oopgaan, is enorm, alles wat die moderne beskawing het om te bied is geskep deur intelligensie. persoon. Ons kan nie voorspel wat ons sal kan bereik as menslike intelligensie met AI vermenigvuldig kan word nie, maar die probleem om ontslae te raak van armoede en siektes is nie meer oneindig moeilik nie.”
Talle ontwikkelings op die gebied van kunsmatige intelligensie is reeds ingesluit in die moderne lewe, insluitend beeld- en spraakherkenningstelsels, onbemande voertuie en nog baie meer. Waarnemers van Silicon Valley skat dat meer as 150 nuwe ondernemings tans in hierdie gebied geïmplementeer word. Terselfdertyd lok ontwikkelings op hierdie gebied al hoe meer beleggings, en al hoe meer ondernemings soos Google ontwikkel hul projekte gebaseer op AI. Daarom meen die skrywers van die brief dat die tyd aangebreek het om meer aandag te skenk aan al die moontlike gevolge van die oplewing vir die ekonomiese, sosiale en regsaspekte van die menslike lewe.
Die standpunt dat kunsmatige intelligensie 'n gevaar vir mense kan inhou, word gedeel deur Nick Bostrom, 'n professor aan die Universiteit van Oxford, wat bekend is vir sy werk oor die antropiese beginsel. Hierdie spesialis glo dat AI tot die punt gekom het wat gevolg sal word deur die onverenigbaarheid daarvan met mense. Nick Bostrom beklemtoon dat "niks gedoen word om die evolusie van AI te beheer nie, anders as genetiese ingenieurswese en klimaatsverandering, waarvoor regerings voldoende fondse toewys om dit te beheer." Volgens die professor word daar tans 'n 'beleid van 'n wetlike vakuum wat gevul moet word' gevoer met betrekking tot kunsmatige intelligensie. Selfs tegnologieë soos selfbesturende motors, wat onskadelik en bruikbaar lyk, laat 'n aantal vrae ontstaan. Moet so 'n motor byvoorbeeld 'n noodrem moet uitvoer om sy passasiers te red, en wie is verantwoordelik vir 'n ongeluk deur 'n onbemande voertuig?
Met die bespreking van die moontlike risiko's, het Nick Bostrom opgemerk dat 'die rekenaar nie die voordele en nadele vir mense kan bepaal nie' en 'nie eers die geringste idee van menslike moraliteit het nie'. Daarbenewens kan selfverbeteringsiklusse in rekenaars so vinnig plaasvind dat 'n persoon eenvoudig nie kan byhou nie, en ook kan amper niks hieraan gedoen word nie, sê die wetenskaplike. "Op die stadium van ontwikkeling wanneer rekenaars self kan dink, kan niemand met sekerheid voorspel of dit tot chaos sal lei of ons wêreld aansienlik sal verbeter nie," het Nick Bostrom gesê, 'n eenvoudige moontlike oplossing vir 'n rekenaar. in lande met koue klimaatverhitting om mense se gesondheid te verbeter en hul uithouvermoë te verhoog, wat "tot die hoof van kunsmatige intelligensie kan kom".
Boonop laat Bostrom ook die probleem ontstaan om die menslike brein te breek om ons biointelligensie te verhoog. 'Op baie maniere kan so 'n prosedure nuttig wees as alle prosesse beheer word, maar wat gebeur as die ingeplante skyfie homself kan herprogrammeer? Watter gevolge kan dit lei tot die opkoms van 'n superman of 'n rekenaar wat net soos 'n mens sal lyk? - vra die professor. Die manier waarop rekenaars menslike probleme oplos, verskil baie van ons s'n. Byvoorbeeld, in skaak beskou die menslike brein slegs 'n smal stel bewegings en kies die beste opsie. Op sy beurt oorweeg die rekenaar alle moontlike bewegings en kies die beste een. Terselfdertyd verwag die rekenaar nie dat hy sy teenstander in die spel sal ontstel of verras nie. Anders as 'n mens wat skaak speel, kan 'n rekenaar slegs per ongeluk 'n slinkse en subtiele beweging maak. Kunsmatige intelligensie kan op die beste manier bereken word - om die fout van enige stelsel uit te skakel deur die 'menslike faktor' daarvandaan te verwyder, maar, anders as 'n mens, is 'n robot nie gereed om prestasies uit te voer wat mense se lewens kan red nie.
Die toename in die aantal slim masjiene verteenwoordig onder meer die stadium van 'n nuwe industriële revolusie. Op sy beurt beteken dit dat die mensdom in die nabye toekoms onvermydelike sosiale veranderinge sal ondervind. Met verloop van tyd sal werk die lot van hoogs gekwalifiseerde spesialiste word, aangesien byna alle eenvoudige take deur robotte en ander meganismes uitgevoer kan word. Wetenskaplikes glo dat kunsmatige intelligensie ''n oog en 'n oog' nodig het sodat ons planeet nie 'n tekenprentplaneet 'Zhelezyaka' word nie, wat deur robotte bewoon word.
Wat die meer en meer outomatisering van produksieprosesse betref, het die toekoms reeds aangebreek. Die World Economic Forum (WEF) het sy verslag voorgelê, waarvolgens outomatisering daartoe sal lei dat teen 2020 meer as 5 miljoen mense wat op verskillende gebiede werk, hul werk sal verloor. Dit is die impak van robotte en robotstelsels op ons lewens. Om die verslag saam te stel, het WEF -werknemers data gebruik van 13,5 miljoen werknemers van regoor die wêreld. Volgens hulle sal die totale behoefte aan meer as 7 miljoen werkgeleenthede teen 2020 verdwyn, terwyl die verwagte groei in indiensneming in ander nywerhede net meer as 2 miljoen werkgeleenthede sal beloop.
