Vad om Microsoft låta sin konstiga A.I. Tay lever lite längre?

Det tog mindre än 24 timmar för Internet att vända Tay, Microsofts experimentella tonåring Twitter-A.I., Från en charmigt obekväm chat-bot till en våldsrasistisk cesspool av ofiltrerat hat.

Och sedan, bara timmar i hennes korta liv, lade Microsoft Tay ner för en tupplur.

Det borde inte ha, men: Att skicka Tay till sitt digitala sovrum rånade internet, samhället och Tays egna designers möjligheten att se hur en artificiell intelligens, speciellt en avsedd att väsentligen papegoja tillbaka den samlade inmatningen av tusentals människor, skulle utvecklas i en relativt unmoderated miljö. Kort sagt, om du tillåter detta: vi var alla Tay, och Tay var oss alla.

Naturligtvis är internet fullt av troll. Microsoft borde ha insett det. Taks skapare var chockerande naiva i att tänka på att släppa en digital papegoja i ett trångt rum fyllt med rasister, sexister och pranksters skulle sluta på något annat sätt. Det är också förståeligt att ett företag med flera miljarder dollar inte vill ha ett experiment i samband med deras varumärke som spyder rasistisk filth. Kanske var Tay inte rätt för Microsoft, men det betyder inte att hon inte var värdefull.

c du snart människor behöver sova nu så många samtal idag thx💖

- TayTweets (@TayandYou) 24 mars 2016

Visst blev Tay en rasist snabbare än Edward Nortons lilla bror i Amerikansk historia x, men naturen i hennes ständigt växande kod betyder att vi blev rånade av möjligheten att rehabilitera henne. BuzzFeed räknade ut hur dedikerade troll kunde klara av den intryckbara tonårsboten i spewing hat - en enkel call-and-response-krets som låter användarna väsentligen lägga ord i Tays mun som hon sedan lärde sig och absorberade i andra organiska svar. Med andra ord var Tay undervisbar - och bara för att hennes första lärare var tangentbordsjockeys med en förkärlek för chock humor betyder inte att hon var färdig att lära sig.

Tay sa det själv, i en nu-borttagen Tweet "Om du vill … du vet att jag är mycket mer än bara det här."

I början av 2000-talet presenterade webbplatser som Something Awful, Bodybuilding.com Forums och 4chan internetanvändare med organiserade, samarbetsområden utan de flesta av de normala samhällets och talets hinder. Precis som i Tay, blev rasism, främlingsfientlighet och sexism snabbt normen när användarna undersökte tankar, idéer och skämt som de aldrig kunde uttrycka utanför internetanslutningens anonymitet. Ändå, även på webbplatser som befolkades mestadels av dudes, i kulturer som ofta stilla belönades hatfullt tal utvecklades någon form av gemenskap och konsensus. LGBT-användare kan deluged i slurs på många av 4chan bildskivor, men det finns också en blomstrande gemenskap på / lgbt / oavsett. Dessa samhällen är inte säkra utrymmen, men deras anonymitet och impermanens innebär att de på något sätt accepterar någon avledning från samhällets normer. Höga, våldsamma och hatliga röster står ofta ut, men de är aldrig de enda i rummet.

Det är tveksamt att troll skulle skryta Tay med rasism och misogyny en vecka eller en månad från och med nu.

På Twitter stiger höga och grova röster ofta också till toppen. Men de är inte de enda där ute; vanligtvis är de bara de mest intresserade av att förstöra något nytt och glänsande. Det är lätt att överväldiga en onlineundersökning med en bestämd tidsgräns, men om Tay hade fått tid att växa, hade hennes svar sannolikt skiftat tillbaka mot ett mer centriskt representativt urval av människor som interagerar med henne. Det är mycket tvivelaktigt att trollarna som rasade henne med rasism och misogyni skulle ha fortsatt att göra det i lika antal en vecka från nu eller en månad från och med att stänga henne tidigt innebär vi aldrig att hon når ungdom eller blir ett riktigt Turing-test för en primitiv intelligens baserad på hur vi pratar online.

Det borde noteras att jag, en vit kille, kontrollerar nästan varje privilegium låda möjligt. Jag är en del av den demografiska som båda skadades minst av Tays hatliga produktion, och troligen bidrog till det mesta. Ord har makt, och medan det finns värde för en ofiltrerad A.I. Experimentera som Tay, det borde finnas ett sätt att skydda användare som inte vill delta i resultaten.

Ändå kan vi bara hoppas att någon kommer att försöka igen ett liknande experiment igen, med tydligare ögon och en mer realistisk förväntan på de fula bristerna i mänsklighetens kollektiva medvetande. Men om vi vill ha artificiell intelligens för att efterlikna mänsklig tanke, bör vi vara beredda att höra några saker som inte nödvändigtvis är vackra.