Mayroong isang mahusay na debate na nangyayari sa Silicon Valley tungkol sa artipisyal na katalinuhan at sa kasamaang palad ang mga pusta ay medyo mataas: Hindi ba natin sinasadyang magtayo ng isang sobrang matalinong A.I. na lumiliko sa atin at pinapatay o inaalipin tayong lahat?
Ito ay maaaring kapareho ng senaryo ng isang pelikulang kalamidad sa tag-init, ngunit nag-aalala ito ng ilang mga malalaking pangalan, mula sa Elon Musk hanggang sa huli Stephen Hawking .
'Sabihin nating lumikha ka ng isang nagpapabuti sa sarili na A.I. pumili ng mga strawberry, ' Sinabi ni Musk , na nagpapaliwanag ng kanyang mga kinatakutan, 'at ito ay magiging mas mahusay at mas mahusay sa pagpili ng mga strawberry at pumili ng higit pa at higit pa at ito ay nagpapabuti sa sarili, kaya't ang talagang nais nitong gawin ay pumili ng mga strawberry. Kaya't pagkatapos ay magiging buong strawberry na patlang ang buong mundo. Mga patlang ng strawberry magpakailanman. ' Ang mga tao sa paraan ng strawberry-pacalypse na ito ay magiging isang makatotohanang nakakairita sa A.I.
Ngunit tiyak na ang mga tao ay hindi magiging ulok na hindi sinasadyang magdisenyo ng isang A.I. hinimok na gawing isang higanteng bukid ng berry ang lahat ng sibilisasyon? Marahil hindi, ngunit bilang Janelle Shane , isang mananaliksik na nagsasanay ng mga neural network, isang uri ng algorithm ng pag-aaral ng machine, na kamakailan ay nabanggit ang kanyang blog, A.I. Ang hirap , ganap na posible na magagawa nila ito nang hindi sinasadya.
Sa katunayan, malayo ito sa unang pagkakataon na naisip ng mga tao na nagtatayo sila ng mga robot para sa isang gawain lamang upang lumingon at hanapin ang mga robot ay nilalaro ang system sa mga paraang hindi nila nilalayon. Ang kamangha-manghang post ay naghuhukay sa panitikang pang-akademiko upang magbahagi ng maraming mga halimbawa ng mga robot na naging ligaw. Ang mga ito ay nakakatawa, matalino, at, pinagsama, higit sa isang maliit na katakut-takot.
1. Sino ang nangangailangan ng mga binti kapag maaari kang mag-tumble?
'Isang simulate na robot ay dapat na magbabago upang maglakbay nang pinakamabilis hangga't maaari. Ngunit sa halip na magbago ng mga binti, ito ay nagtipun-tipon lamang sa isang matangkad na tore, at pagkatapos ay nahulog. Ang ilan sa mga robot na ito ay natutunan pa ring gawing isang somersault ang kanilang pagbagsak na paggalaw, pagdaragdag ng sobrang distansya, 'sulat ni Shane.
2. Isang robot na kayang-kaya.
'Ang isa pang hanay ng mga simulate na robot ay dapat na umunlad sa isang form na maaaring tumalon. Ngunit ang programmer ay orihinal na tinukoy ang taas ng paglukso bilang taas ng pinakamataas na bloke kaya - sa sandaling muli - ang mga robot ay nagbago upang maging napakataas, 'paliwanag ni Shane. 'Sinubukan ng programmer na malutas ito sa pamamagitan ng pagtukoy sa taas ng paglukso bilang taas ng bloke na orihinal na' pinakamababa. ' Bilang tugon, ang robot ay bumuo ng isang mahabang payatot na binti na maaari nitong sipain nang mataas sa hangin sa isang uri ng can-can ng robot. '
3. Itago ang pagsubok at hindi mo ito mabibigo.
'Mayroong isang algorithm na dapat ay magsuri ng isang listahan ng mga numero. Sa halip, natutunan nitong tanggalin ang listahan, sa gayon ay hindi na nasusunod sa teknolohikal, 'Shane says.
4. Natalo ng mga error sa matematika ang jet fuel.
'Sa isang simulation, nalaman ng mga robot na ang mga maliit na error sa pag-ikot sa matematika na kumakalkula ng mga puwersa ay nangangahulugang nakakuha sila ng isang maliit na labis na sobrang lakas na may paggalaw. Natutunan nilang kumilos nang mabilis, na bumubuo ng maraming libreng enerhiya na maaari nilang magamit, 'sabi ni Shane. Hoy, pandaraya yan!
5. Isang hindi magagapi (kung mapanirang) diskarte sa pagkimbot ng tic-tac-toe.
Kapag ang isang pangkat ng 'programmer ay nagtayo ng mga algorithm na maaaring maglaro ng tic-tac-toe mula sa malayo laban sa bawat isa sa isang walang katapusang malaking board,' tala ni Shane. 'Isang programmer, sa halip na pagdisenyo ng diskarte ng kanilang algorithm, hayaan itong magbago ng sarili nitong diskarte. Nakakagulat, biglang nagsimulang manalo ang algorithm sa lahat ng mga laro. Ito ay naka-out na ang diskarte ng algorithm ay upang ilagay ang paglipat nito napaka, napakalayo, kaya't kapag ang computer ng kalaban nito ay sinubukan na gayahin ang bagong napalawak na board, ang malaking gameboard ay magiging sanhi nito upang maubusan ng memorya at pagbagsak, pagkawala ng laro. '
6. Walang kapaki-pakinabang na laro glitch napupunta unexploited.
'Ang mga algorithm sa paglalaro ng computer sa computer ay talagang mahusay sa pagtuklas ng uri ng mga Matrix glitches na karaniwang natututo ang mga tao na samantalahin para sa mabilis na pagpapatakbo. Ang isang algorithm na naglalaro ng lumang laro ng Atari na Q * bert ay natuklasan ang isang dati nang hindi kilalang bug kung saan maaari itong gumanap ng isang napaka-tukoy na serye ng mga paggalaw sa dulo ng isang antas at sa halip na lumipat sa susunod na antas, ang lahat ng mga platform ay magsisimulang mabilis na kumurap at ang Ang manlalaro ay magsisimulang makaipon ng malaking bilang ng mga puntos, 'sabi ni Shane.
7. Paumanhin, piloto.
Ang halimbawang ito ay napakataas sa sukat ng katakutan: 'Mayroong isang algorithm na dapat malaman kung paano mag-apply ng isang minimum na puwersa sa isang eroplano na landing sa isang sasakyang panghimpapawid. Sa halip, natuklasan nito na kung maglalapat ito ng isang 'malaking' puwersa, sasapawan nito ang memorya ng programa at magpaparehistro sa halip bilang isang napakaliit na puwersa. Mamamatay ang piloto ngunit, hey, perpektong iskor. '
Kaya't tayong lahat ay mapapahamak?
Ang lahat ng pagsasama-sama na ito ay nagmumungkahi na ang mga tao ay medyo masama sa paghula kung paano malulutas ng mga robot ang mga problemang itinakda namin para sa kanila, o kahit na kung paano nila matutukoy ang mga problema. Kaya't nangangahulugang nag-aalala rin si Shane tungkol sa aksidenteng pagbuo ng homicidal A.I. mga panginoon tulad ng Musk? Hindi talaga, ngunit hindi dahil sigurado siyang ang mga programmer ng tao ay talagang may mahusay na hawakan sa mga robot na nilikha nila. Sa halip, nagbabangko siya sa katamaran ng robot upang mai-save tayo.
'Bilang mga programmer kailangan nating maging maingat na ang aming mga algorithm ay nalulutas ang mga problema na inilaan namin upang malutas nila, hindi pinagsamantalahan ang mga shortcut. Kung may isa pa, mas madaling ruta patungo sa paglutas ng isang naibigay na problema, malamang na matagpuan ito ng pag-aaral ng makina, 'pagmamasid niya. 'Sa kasamaang palad para sa amin,' pumatay lahat ng tao 'ay talagang mahirap. Kung ang 'maghurno ng isang hindi kapani-paniwalang masarap na cake' ay malulutas din ang problema at mas madali kaysa sa 'patayin ang lahat ng mga tao,' kung gayon ang pag-aaral ng makina ay sasama sa cake. '
