Förhindra robotapokalypsen genom att överväga detta A.I. Frågan om moral

Det finns en moralisk robotikfråga och scenario som måste besvaras för att artificiell intelligens ska kunna avancera.

Tänk dig att det finns en robot som kontrollerar en minskar och det inser att det finns en vagn fylld med fyra gruvarbetare som hindrar spåren ur kontroll. Roboten kan välja att flytta spåren och döda en omedveten gruvarbetare, därmed spara de fyra i vagnen eller hålla spåren som de är och låta de fyra gruvarbetarna springa in i en vägg och dö. Vilket skulle du välja? Skulle ditt svar förändras om den ena gruvan var ett barn istället? Om vi ​​inte kan svara på detta, hur programmerar vi robotar för att fatta det beslutet?

Det var de frågor som ställdes till paneldeltagare och publiken vid World Science Festival-evenemanget i New York City med titeln "Moral Math of Robots: Kan livs- och dödsdeklarationer kodas?" De flesta valde att rikta vagnen mot en gruvarbetare och ändra personen till ett barn förändrade inte många respondents sinnen, men det var inte enhälligt och mänskliga moraliska beslut är ofta inte.

Det var ett bra exempel på de kampar som mänskligheten kommer att möta eftersom artificiell intelligens fortsätter att utvecklas och vi klarar av möjligheten att programmera robotar med moral.

"Ett begrepp som skada är svårt att programmera", säger panellisten Gary Marcus, professor i psykologi och neurologi vid NYU och VD och medgrundare av Geometric Intelligence, Inc. Han sa att begrepp som rättvisa inte har en snitt och torrhet svara på programmet och vi har för närvarande inte en bra uppsättning av moral för robotar utöver Asimovs lagar, som fanns i filmer som jag robot.

Han sa att det var meningen att han gick med i panelen för att starta en konversation om hur vi skulle ta itu med robotmoral.

Elon Musk denna vecka diskuterade sin oro över artificiell intelligens, går så långt som att föreslå att vi alla bor i någon form av simulering som Matrisen och att människor borde investera i neurala spetsar som kommer att fästa i hjärnan och öka mänskliga kognitiva förmågor. Andra futurister som Stephen Hawking har varnat för farorna med A.I. och denna vecka varnade Matt Damon detsamma under sitt inledande tal vid MIT.

Andra scenarier inkluderade militariserade autonoma vapensystem och hur vi moraliskt och filosofiskt kommer att hantera dessa mänskliga beslut på slagfältet, liksom vilka beslut autonoma bilar kan behöva göra i den inte så långa framtiden.

Paneldeltagarna kom inte överens om vad man skulle göra, men sa att det fanns enorma fördelar för A.I. Det ska inte kastas ut genom fönstret bara för att dessa frågor är svåra. De föreslog att vi skulle prata mer om dessa typer av moraliska axelfrågor och kanske kommer vi närmare för att förhindra robotapokalypsen.