Tam je v Silicijevi dolini poteka velika razprava o umetni inteligenci in na žalost so vložki precej visoki: Ali bomo po naključju zgradili super pameten A.I. ki se obrne na nas in nas vse pobije ali zasužnji?
risal fuller in ceara mcauliffe
Morda se sliši kot scenarij poletnega filma o katastrofi, vendar skrbi nekaj precej velikih imen, od Elona Muska do poznega Stephen Hawking .
'Recimo, da ustvarite samoizboljšujoči se umetni umetnik nabirati jagode, ' Mošus je rekel , razlaga svoje strahove, 'in postaja vedno boljše pri nabiranju jagod in nabira vse več in se samo izboljšuje, zato vse, kar si v resnici želi, je pobiranje jagod. Torej bi imeli ves svet jagodna polja. Strawberry Fields Forever.' Ljudje, ki bi bili na poti tej jagodni pakalipsi, bi bili le nepotrebno dražilno sredstvo za A.I.
Toda ljudje zagotovo ne bi bili tako neumni, da bi po naključju oblikovali A.I. usmerjen, da vso civilizacijo spremeni v eno velikansko jagodičja? Mogoče ne, ampak kot Janelle Shane , raziskovalec, ki trenira nevronske mreže, vrsto algoritma strojnega učenja, nedavno omenjeno na njen blog, A.I. Čudnost , povsem verjetno bi to lahko storili pomotoma.
Pravzaprav še zdaleč ni bilo prvič, da bi ljudje mislili, da gradijo robote za eno nalogo, samo da bi se obrnili in ugotovili, da roboti igrajo sistem na načine, ki jih nikoli niso nameravali. Fascinantna objava se poglobi v akademsko literaturo in deli nekaj primerov divjih robotov. So smešni, pametni in skupaj z njimi več kot malo grozljivi.
1. Kdo potrebuje noge, ko se lahko prevrneš?
'Simulirani robot naj bi se razvil, da bi potoval čim hitreje. Toda namesto da bi razvil noge, se je preprosto zbral v visok stolp in nato padel. Nekateri od teh robotov so se celo naučili spreminjati svoje padajoče gibanje v salto, s čimer so dodali dodatno razdaljo, «piše Shane.
2. Robot, ki zmore-zmore.
'Še en nabor simuliranih robotov naj bi se razvil v obliko, ki bi lahko skočila. Toda programer je prvotno določil višino skakanja kot višino najvišjega bloka, zato so se roboti znova razvili v zelo visoke, «pojasnjuje Shane. 'Programer je to poskušal rešiti tako, da je višino skakanja določil kot višino bloka, ki je bila prvotno' najnižja '. V odgovor je robot razvil dolgo suho nogo, ki bi jo lahko z nekakšno robotsko pločevinko brcnil visoko v zrak. '
3. Skrijte test in ga ne morete spodleteti.
„Obstajal je algoritem, ki naj bi razvrščal seznam števil. Namesto tega se je naučila izbrisati seznam, tako da ni bil več tehnično nesortiran, «pripoveduje Shane.
4. Matematične napake premagajo reaktivno gorivo.
'V eni simulaciji so roboti izvedeli, da majhne napake pri zaokroževanju v matematiki, ki izračunavajo sile, pomenijo, da so z gibanjem dobili majhen delček dodatne energije. Naučili so se hitro trzati in ustvariti veliko proste energije, ki bi jo lahko izkoristili, «pravi Shane. Hej, to je varanje!
5. Nepremagljiva (če je uničujoča) strategija tik-taktov.
Ko je skupina 'programerjev' zgradila algoritme, ki so lahko na neskončno veliki deski na daljavo igrali tik-takte na nogo, 'ugotavlja Shane. „En programer, namesto da bi oblikoval strategijo algoritma, naj razvije svoj pristop. Presenetljivo je, da je algoritem nenadoma začel zmagovati v vseh svojih igrah. Izkazalo se je, da je bila strategija algoritma zelo premikati svojo potezo, tako da bi, ko bi nasprotnikov računalnik poskušal simulirati novo močno razširjeno ploščo, zaradi velike igralne plošče zmanjkalo pomnilnika in se zrušilo. igra. '
6. Nobena uporabna napaka v igri ne ostane neizkoriščena.
'Algoritmi za igranje računalniških iger so zelo dobri pri odkrivanju vrst Matrixovih napak, ki se jih ljudje običajno naučijo izkoristiti za hiter tek. Algoritem, ki je igral staro Atari igro Q * bert, je odkril prej neznano napako, pri kateri je lahko izvedel zelo specifičen niz potez na koncu ene stopnje in namesto da bi se premaknili na naslednjo stopnjo, bi vse platforme začele hitro utripati in igralec bi začel nabirati ogromno točk, «pravi Shane.
7. Oprosti, pilot.
Ta primer je zelo visok na lestvici grozljivosti: „Obstajal je algoritem, ki naj bi ugotovil, kako uporabiti minimalno silo na letalo, ki pristane na letalonosilki. Namesto tega je odkril, da če uporabi „ogromno“ silo, preplavi programski spomin in se namesto tega registrira kot zelo „majhna“ sila. Pilot bi umrl, ampak, hej, popoln rezultat. '
Pa smo vsi obsojeni?
Vse to skupaj kaže na to, da ljudje precej upajo ugibati, kako bodo roboti rešili težave, ki smo jim jih zastavili, ali celo kako jih bodo opredelili. Torej to pomeni, da je Shane prav tako zaskrbljen zaradi nenamerne gradnje umorilnega A.I. nadrejeni, kot je mošus? V resnici ne, ampak ne zato, ker je prepričana, da imajo človeški programerji resnično odličen robot, ki ga ustvarjajo. Namesto tega računa na lenobo robota, da nas reši.
„Kot programerji moramo biti zelo previdni, da naši algoritmi rešujejo probleme, ki smo jim jih namenili, ne pa da izkoriščajo bližnjice. Če obstaja druga, lažja pot do rešitve danega problema, ga bo verjetno našlo strojno učenje, «ugotavlja. 'Na našo srečo je' ubiti vse ljudi 'resnično težko. Če tudi težava reši 'speči neverjetno okusno torto' in je lažje kot 'ubiti vse ljudi', potem bo strojno učenje šlo skupaj s torto. '
