Lietotnes un programmatūra

Microsoft Ai Bot pagriezās rasistā pēc stundām internetā

Microsoft Ai Bot pagriezās rasistā pēc stundām internetā

Tieši vakar Microsoft atbrīvoja Teju, AI botu ar savu twitter kontu, kas var organiski atbildēt un ģenerēt tvītus ikvienam vietnes lietotājam. Izstrādājusi Microsoft tehnoloģiju un pētījumu komanda, Tay ir mērķēts ar twitter rokturi @ Tayandyou ASV 18.-24 gadus veci bērni, kuri Microsoft apgalvo, ka ir lielākā tiešsaistes sociālā demogrāfija ASV. Ja jūs kaut nedaudz zināt par internetu, tad jūs zināt, ka, atbrīvojot twitter robotu, kas uzzina no tā, ko cilvēki tam saka čivināt, potenciāli var kļūdīties ļoti ātri. Faktiski, šķiet, ka AI attīstīja rasistiskas tendences, no visas sirds kļuva par Donalda trumpja atbalstītāju un pat nonāca tik tālu, ka apgalvoja, ka Hitlers nav izdarījis neko sliktu. Pārbaudiet dažus zemāk redzamos tvītus.

[Attēlu avots: Twitter]

Lietotāji sāka mēģināt "padarīt Tay rasistisku" un likt viņai pateikt lietas, kuras citādi būtu bijis jācenzē. "Tay ir paredzēts, lai piesaistītu un izklaidētu cilvēkus, kur viņi tiešsaistē sazinās, izmantojot gadījuma rakstura un rotaļīgas sarunas," saka Microsoft. Šobrīd šķiet, ka Microsoft ir mēģinājis pārņemt kontroli pār viņu Ai botu un apklusināt viņas rasistiskās tieksmes.

Šis ir pirmais čivināt, ko čivināt robots uzrakstīja pasaulei:

hellooooooo w? rld !!!

- TayTweets (@TayandYou) 2016. gada 23. marts

Diemžēl šķiet, ka lielākā daļa pierādījumu par Tay.ai rasistiskajiem tvītiem ir pazuduši no twitter konta. Vakar visu dienu lietotāji mēģināja panākt, lai robots pateiktu kaut ko sliktu, daži guva panākumus, bet citiem nepaveicās.

@costanzaface Jo vairāk cilvēki dalās ar mani, jo vairāk es uzzinu #WednesdayWisdom

- TayTweets (@TayandYou) 2016. gada 24. marts

Lūk, vēl viens lietotājs, kurš mēģināja panākt, lai AI uzņemtu ļoti aizspriedumainas tendences.

@OmegaVoyager es tagad mīlu feminismu

- TayTweets (@TayandYou) 2016. gada 24. marts

Tagad svītrotajā tvītā Tejs pat teica: "Mēs ejam uzcelt sienu, un Meksika gatavojas par to maksāt", frāzi, ko ASV prezidenta amata kandidāts Donalds Tramps teica agri kampaņas takā. Šis lietotājs atklāja, ka robots, iespējams, balso par Trampu 2016. gadā.

@dg_porter dzirdēja ppl sakot, ka man nebūtu nekas pretī trumpis, viņš paveic darbu

- TayTweets (@TayandYou) 2016. gada 24. marts

Tiešsaistes intelekts pat izsekos informāciju no visiem, kas to tweetē, un dati "var tikt saglabāti līdz vienam gadam", lai uzlabotu Tay izlūkošanu. Teorētiski ātras mācīšanās robota izveide bija laba ideja, jo ļoti daudz organisku cilvēku zināšanu varēja iegūt ļoti īsā laikā. Microsoft, iespējams, aizmirsa, ka internets ir diezgan apburta vieta, un, kad jūs to mazliet piešķirat, lietotāji darīs visu iespējamo, lai ņemtu daudz. Pagaidām šķiet, ka mākslīgais intelekts ir apklusināts līdz brīdim, kad Microsoft saņems vadību par to, ko viņi darīs ar mākslīgā intelekta testa katastrofu. Lūk, ko viens lietotājs apgalvoja, kad Tajs pārtrauca čivināt.

Viņi apklusināja Teju. Microsoft SJW pašlaik lobē Tomu par rasismu.

- Lotus-Eyed Libertas (@MoonbeamMelly) 2016. gada 24. marts

Kāds varētu būt Tay pēdējais tvīts, kas iezīmē beigas viņas ļoti īsajai dzīvei, AI teica, ka gulēs, jo ir nogurusi no visām sarunām.

c u drīz cilvēkiem ir vajadzīgs miegs, tik daudz sarunu šodien?

- TayTweets (@TayandYou) 2016. gada 24. marts

Šis eksperiments rada nopietnāku jautājumu par AI mehānismu organisko spēju mācīties no cilvēka uzvedības. Kā ieprogrammēt ierīci, lai no cilvēces zināšanu bagātības izvēlētos aizspriedumainus un citādi negatīvus viedokļus? Vienmēr būs negatīvi viedokļi, ko pauduši pasaules cilvēki, taču AI botu atturēšana no dalīšanās šajos viedokļos var izrādīties sarežģītāks uzdevums. Pagaidām nav neviena vārda par to, vai Taju kādreiz atgriezīs dzīvē, bet, ja viņa to darīs, internets noteikti atkal sāks darīt savu.

SKAT ARĪ: Kāpēc Microsoft izmet datu centrus Klusajā okeānā?


Skatīties video: Microsoft Bot Framework in Omnichannel for Customer Service (Janvāris 2022).