Se alla tips från Amazon Prime Day!

EU publicerar riktlinjer för utveckling av artificiell intelligens

Permalänk
Medlem

Well – det var många fina ord och föresatser om AI. Problemet är väl snarast att EU knappast sitter i förarsätet när det gäller AI-utvecklingen utan snarare agerar som en åskådare med en massa åsikter när tekniken utvecklas/formas. Jag kommer osökt att tänka på en idrottssupporter som häver ur sig otidigheter till någon utövare, samtidigt som hens mest fysiska aktivitet de senaste 10 åren tycks ha varit att lyfta ölflaskan från bordet till läpparna.

Även om det givetvis är trevligt att EU nu engagerar sig i frågan kan jag tycka att det vore passande om man också var mer engagerad i att lyfta nivån på europeisk AI-forskning. De initiativ som ändå tas idag beror till största delen på privata donationer som WASP, medan den offentligt finansierade AI-forskningen både är begränsad och inte sällan missriktad.

Under den tid som jag intresserat mig för AI har jag bland annat stött på ”undervisning” in neurovetenskap vid ett tekniskt universitet helt utan lärarledd undervisning och examination – och när jag ordnade tillstånd för kursledningen att använda material i absolut världsklass från Harvard, så valde man ändå att hålla fast vid sin icke-pedagogik.

Jag har också mött handledare och examinatorer i samband med mina magisteruppsatser om AI (2 st) som helt har saknat förståelse för utvecklingen utan bara lutat sig mot föråldrade kunskaper – ex en kurs som hen tidigare hållit baserad på Dreyfus ”what computers still can’t do” – ifrån 1992. Mao menar jag att EU/Västeuropa/Sverige har en hel del jobb kvar att om vi ska vara något mer än bara åskådare.

/M

typo
Permalänk

De missar helt vad AI kommer att användas till: att simulera människor online.
Det finns redan AI som kan skriva twitterinlägg och göra korta telefonsamtal utan att avslöjas som människor, självklart kommer Ryska trollfabriker, reklamfirmor, politiska aktivister, och andra att missbruka den typen av teknik för att bomba oss, och politiker, med propaganda.
På kort och medellång sikt är det där risken med AI ligger, i att de kommer att missbrukas för reklam och politik, inte i att de rekommenderar olika medicinska behandlingar för vita och svarta, eller "blir onda" och avfyrar kärnvapenmissiler på kul.

Permalänk
Avstängd

Känns som AI kommer utvecklas överallt förutom inom EU.

Men är de snabba hinner de nog bestämma lite innan EU bryts upp helt.

Permalänk
Skrivet av Mighty Mic:

Problemet är väl snarast att EU knappast sitter i förarsätet när det gäller AI-utvecklingen

EU har en strategisk satsning på AI, men den är som med allt EU gör snårig att söka till, men det är för närvarande ganska lätt att få pengar till AI utveckling.
Kina ligger förmodligen längst fram, dels för att de satsar mycket stort på AI, dels för att de stjäl allt alla andra gör.

Permalänk
Avstängd
Skrivet av dlq84:

Kan ju knappast bli sämre än nu

Näe... Men det skulle åtminstone bli en liten förbättring...

Visa signatur

Daisy, Daisy...
Three is a magic number
Yes it is, it's a magic number

Permalänk
Medlem
Skrivet av Awakeruad:

De missar helt vad AI kommer att användas till: att simulera människor online.
Det finns redan AI som kan skriva twitterinlägg och göra korta telefonsamtal utan att avslöjas som människor, självklart kommer Ryska trollfabriker, reklamfirmor, politiska aktivister, och andra att missbruka den typen av teknik för att bomba oss, och politiker, med propaganda.
På kort och medellång sikt är det där risken med AI ligger, i att de kommer att missbrukas för reklam och politik, inte i att de rekommenderar olika medicinska behandlingar för vita och svarta, eller "blir onda" och avfyrar kärnvapenmissiler på kul.

Nej - AI är mycket mycket större än så - redan nu. Se ex mina poster om IBMs senaste framsteg med Watson - dels som debattör och dels som HR-verktyg:

https://www.sweclockers.com/forum/trad/1548630-ibms-ai-watson...

https://www.sweclockers.com/forum/trad/1554460-ibms-ai-basera...

Skrivet av Awakeruad:

EU har en strategisk satsning på AI, men den är som med allt EU gör snårig att söka till, men det är för närvarande ganska lätt att få pengar till AI utveckling.
Kina ligger förmodligen längst fram, dels för att de satsar mycket stort på AI, dels för att de stjäl allt alla andra gör.

https://www.mckinsey.com/featured-insights/artificial-intelli...

/M

Permalänk
Medlem

''AI-system som används inom sjukvården inte ska tillåtas att göra skillnad på hudfärg och etnicitet'' wew lad snacka om syndabockar galore, inväntar regler mot kroppsfett och sexualitet. Att påstå att en jävla robot har behov av ras koncept är bortom absurt. Men vi eu måste ju dygd signalera för skattebidraget trotts allt. Absolut det äckligaste och mest ouppriktiga jag läst på sedan ''afro-europer'' tillkännagavs som en utsatt klass i eu parlamentet och resolution gick igenom. Eu sysslar med extremt mycket identitets politik. Sovjet 2.0

Säg nej Till ''Empatisk'' rasism

Permalänk
Skrivet av Mighty Mic:

Nej - AI är mycket mycket större än så

Det är där det kommer att användas inom överskådlig framtid: övervakning, kontroll, propaganda. Watson är en kommersiell flopp, men ansiktsigenkänning är redan big business, och skriv en AI som övervakar twitter och från femti olika konton hojtar ned alla som kritiserar kejsar Xi Jinping (eller Sony Entertainment) så blir du rik.

Permalänk
Skrivet av videopac:

Robotikens tre lagar är väl applicerbara. Frågan är hur man väver in dem ovillkorligt (några positronhjärnor finns väl inte i dagsläget).

Asimov FTW!

Var inte hela poängen Asimov ville få fram att dessa lagar inte fungerar?

För de som är intresserade av AI-frågan rekommenderar jag Robert Miles videor.

Permalänk
Medlem
Skrivet av Mr*Gibson:

Japp, japp. Vackert och lovvärt.
Dock ganska höga mål när inte ens många företag, myndigheter och människor i maktposition inom EU är i närheten av att leva upp till många av riktlinjerna

Som tur är, är det lättare att styra datorer än människor

Skickades från m.sweclockers.com

Permalänk
Avstängd
Skrivet av Nilossolin:

Var inte hela poängen Asimov ville få fram att dessa lagar inte fungerar?

För de som är intresserade av AI-frågan rekommenderar jag Robert Miles videor.

Na, inte riktigt men dock att det går att ta sig förbi dem på olika sätt, om det är genom tekniska fel, implementation eller experiment. Men de senare böckerna blev lite flummiga får jag väl hålla med om.

Lagarna är enkla och bra, en god grund. Men antagligen svåra att hårt applicera.

Permalänk
Avstängd
Skrivet av Klarspråkarn:

Som tur är, är det lättare att styra datorer än människor

Skickades från m.sweclockers.com

Vetefan... Hur mycket fri vilja har egentligen folk överlag?

Visa signatur

Daisy, Daisy...
Three is a magic number
Yes it is, it's a magic number

Permalänk
Medlem
Skrivet av videopac:

Robotikens tre lagar är väl applicerbara. Frågan är hur man väver in dem ovillkorligt (några positronhjärnor finns väl inte i dagsläget).

Asimov FTW!

jo men i slutet av alla hans berättelser så utvecklades ju aien så dom kunde ignorera de tre lagarna

Permalänk
Avstängd
Skrivet av Tralle:

jo men i slutet av alla hans berättelser så utvecklades ju aien så dom kunde ignorera de tre lagarna

Tog ju några tusen år dock Men nu vet vi ju vad vi skall spärra bort så att inte nollte lagen kommer till.

Permalänk
Medlem

"Det innebär exempelvis att ett AI-system som används inom sjukvården inte ska tillåtas att göra skillnad på hudfärg och etnicitet."

Varför det, när vi är olika och kan ha olika behov/förutsättningar? Förmåga att spjälka laktos, D-vitamin, etc.

Permalänk
Medlem
Skrivet av Buulaa:

''AI-system som används inom sjukvården inte ska tillåtas att göra skillnad på hudfärg och etnicitet'' wew lad snacka om syndabockar galore, inväntar regler mot kroppsfett och sexualitet. Att påstå att en jävla robot har behov av ras koncept är bortom absurt. Men vi eu måste ju dygd signalera för skattebidraget trotts allt. Absolut det äckligaste och mest ouppriktiga jag läst på sedan ''afro-europer'' tillkännagavs som en utsatt klass i eu parlamentet och resolution gick igenom. Eu sysslar med extremt mycket identitets politik. Sovjet 2.0

Säg nej Till ''Empatisk'' rasism

Känns lite som att du missat hur en avancerad IA görs idag. Pga inlärningsalgoritmer är det otroligt svårt att förutsäga hur en AI kommer bete sig, och om det dataset som används vid inlärningen är vinklat så kommer även AIns beteende bli det. Det finns redan exempel på diskriminerande beteende av AI som är ett resultat av att datasettet inte varit tillräckligt varierat.

Skickades från m.sweclockers.com

Permalänk
Medlem
Skrivet av DevilsDad:

Känns lite som att du missat hur en avancerad IA görs idag. Pga inlärningsalgoritmer är det otroligt svårt att förutsäga hur en AI kommer bete sig, och om det dataset som används vid inlärningen är vinklat så kommer även AIns beteende bli det. Det finns redan exempel på diskriminerande beteende av AI som är ett resultat av att datasettet inte varit tillräckligt varierat.

Skickades från m.sweclockers.com

Snälla förklara vilken inlärningsmetod skulle göra data på ''etnicitet'' direkt relevant eller rentav tillgängligt för en special anpassad ai? kan du komma på ett scenario där denna information skulle i något sätt vara praktiskt? låter som ett par boomers som behandlar ai som en slags självständig levande organism som anpassar sig efter arbiträra mänskliga sidoeffekter efter vår evolution.

Försök inte jämföra motiveringar baserade på konspirationsteorier för lagstiftande mot diskriminering baserat på bristande data.
Du kan inte blanda objektiv design med subjektiva påverkningar. Jag tror inte vi är på samma sida här.

Permalänk
Medlem
Skrivet av Buulaa:

Snälla förklara vilken inlärningsmetod skulle göra data på ''etnicitet'' direkt relevant eller rentav tillgängligt för en special anpassad ai? kan du komma på ett scenario där denna information skulle i något sätt vara praktiskt? låter som ett par boomers som behandlar ai som en slags självständig levande organism som anpassar sig efter arbiträra mänskliga sidoeffekter efter vår evolution.

Försök inte jämföra motiveringar baserade på konspirationsteorier för lagstiftande mot diskriminering baserat på bristande data.
Du kan inte blanda objektiv design med subjektiva påverkningar. Jag tror inte vi är på samma sida här.

Amazon tränade en AI för att leta nya medarbetare i teorin om att den skulle vara just odiskriminerande. Men det resulterade i att den bara rekryterade män, för det var en av de starkaste gemensamma nämnarna i alla CVn som den fick lära sig av.
De försökte fixa den "buggen", men projektet skrotade senare eftersom man inte kunder vara säker på hur andra kriterier viktades.
Länk tex:
https://www.va.se/nyheter/2018/10/11/amazon-stanger-ned-ai-so...

Man kan ju tänka sig att de flesta skickar med en bild på sitt CV, och AIn kan vikta CVt beroende på hur bilden ser ut på ett sätt man inte räknar med.

Om man behöver lägga ner mycket tid på att anpassa indatat för att dölja faktorer som AIn potentiellt diskriminerar på, så har man väl tappat en del av poängen?

Kanske CVn är fel sak att mata en AI med eftersom de är subjektiva redan från början.

Jag läste om en AI som diagnostiserade ögonsjukdommar i Indien med hjälp av foton. Det gjorde att läkarna kunde fokusera på att behandla patienter med högre risk och därför arbeta mer effektivt. Det verkade vara en framgångsaga tillskillnad från Amazons fiasko.

Det finns stor potential i AI, men än så länge även begränsningar.

Skickades från m.sweclockers.com

Permalänk
Medlem
Skrivet av Awakeruad:

Det är där det kommer att användas inom överskådlig framtid: övervakning, kontroll, propaganda. Watson är en kommersiell flopp, men ansiktsigenkänning är redan big business, och skriv en AI som övervakar twitter och från femti olika konton hojtar ned alla som kritiserar kejsar Xi Jinping (eller Sony Entertainment) så blir du rik.

Suck - det tycks som att din syn på vad AI är och inte är, är väl snäv. Jag vet inte vad du grundar din uppfattning på - men jag håller inte med dig. AI används redan för cancerdiagnos/behandlingsplaner - med bättre resultat än behandlande läkare. Det används också för många många andra funktioner, exempelvis som stöd för HR-funktioner, för effektivare drift av Googles datorhallar och för självkörande bilar. Studier visar att företag med en ambitiös och implementerad AI-strategi uppvisar högre lönsamhet än sina konkurrenter oavsett bransch, men särskilt inom branscher med naturlig tillgång till mycket data (ex hälsovård och finans).

Övervakning, kontroll och propaganda är en del av AI - men bara en begränsad del. AI är mycket större än så.

/M

Permalänk
Medlem
Skrivet av Mizzarrogh:

Vetefan... Hur mycket fri vilja har egentligen folk överlag?

Det är oklart.

Jag råkade ratta in p3 igår förmiddag när jag åkte bil och de hade en gäst som är inblandad i ett nytt, stort forskningsprojekt om just fri vilja:

https://sigtunastiftelsen.se/nyheter/sigtunastiftelsen-far-4-...

I radioprogrammet pratar han även kort om fri vilja och AI.

Skickades från m.sweclockers.com

Permalänk
Avstängd
Skrivet av Klarspråkarn:

Det är oklart.

Jag råkade ratta in p3 igår förmiddag när jag åkte bil och de hade en gäst som är inblandad i ett nytt, stort forskningsprojekt om just fri vilja:

https://sigtunastiftelsen.se/nyheter/sigtunastiftelsen-far-4-...

I radioprogrammet pratar han även kort om fri vilja och AI.

Skickades från m.sweclockers.com

Jo, har för mig att de hade ett liknande program på Vetenskapens värld på SVT också för något år sedan, det var väldigt intressant.

Visa signatur

Daisy, Daisy...
Three is a magic number
Yes it is, it's a magic number

Permalänk
Medlem
Skrivet av Mighty Mic:

Suck - det tycks som att din syn på vad AI är och inte är, är väl snäv. Jag vet inte vad du grundar din uppfattning på - men jag håller inte med dig. AI används redan för cancerdiagnos/behandlingsplaner - med bättre resultat än behandlande läkare. Det används också för många många andra funktioner, exempelvis som stöd för HR-funktioner, för effektivare drift av Googles datorhallar och för självkörande bilar. Studier visar att företag med en ambitiös och implementerad AI-strategi uppvisar högre lönsamhet än sina konkurrenter oavsett bransch, men särskilt inom branscher med naturlig tillgång till mycket data (ex hälsovård och finans).

Övervakning, kontroll och propaganda är en del av AI - men bara en begränsad del. AI är mycket större än så.

/M

Det är jobbigt att erkänna att datorer ibland är objektivt bättre än människor på att fatta beslut.

Jag läste om någon AI-liknande funktion som skulle försöka förutsäga återfallsrisken för tunga förbrytare och jämföra resultatet med experters bedömningar (du kanske läst den studien?). AI:n vann, eftersom experterna tog hänsyn till variabler som inte var relevanta (jag är dock osäker på om AI:n kanske fick för många falska positiva, dvs var för hård i bedömningen ibland).

De flesta personer har en tendens att tro gott om andra, att förlåta. Och det är mycket funktionellt i vanliga sammanhang, men sannolikt inte med många tungt kriminella.

Så ja, AI verkar kunna vara mycket användbart i många sammanhang. Sen finns förstås en stor fråga: Om den gör fel, vem ska då straffas?

Jag lyssnade på en pod on självkörande bilar för ett tag sedan och där ställs ju detta på sin spets. Om bilen kan välja vem den ska offra (om det är oundvikligt att en krock kommer ske tex) hur ska den då välja? Och vem är ansvarig för skadorna/dödsfallen?

Skickades från m.sweclockers.com

Permalänk
Medlem
Skrivet av Klarspråkarn:

Jag läste om någon AI-liknande funktion som skulle försöka förutsäga återfallsrisken för tunga förbrytare och jämföra resultatet med experters bedömningar (du kanske läst den studien?). AI:n vann, eftersom experterna tog hänsyn till variabler som inte var relevanta (jag är dock osäker på om AI:n kanske fick för många falska positiva, dvs var för hård i bedömningen ibland).

Nej, jag har inte läst den aktuella studien - men jag vet att ämnet bland annat diskuterats inom ramen för World Economic Forum:

https://www.weforum.org/agenda/2018/11/algorithms-court-crimi...

I samband med att jag gick en MIT-kurs i maschine learning fick vi prova att använda tekniken på allt ifrån vinkvalitet till baseboll-lag och schemaläggning av polisens patruller och bevakning - så det är väl snarast fantasin och tillgången på data som sätter gränserna. Sedan blir det ju fel ibland även med AI. "Problemet" är väl att vi som människor har lättare att acceptera "den mänskliga faktorn" än att ett program gör fel. Varje år dör hundratals människor i trafiken och det kan vi acceptera - men om en person dör pga ett felbeslut i självkörande fordon så blir det panik och nattsvarta rubriker. Nu säger jag INTE att vi lättvindigt ska acceptera misstag av AI-system, men om systemen på det stora hela väsentligt minskar minskar olyckor och andra misstag så får vi nog som samhälle försöka hitta vägar/metoder att hantera/kompensera för misstagen.

/M

Permalänk
Medlem
Skrivet av henkiii:

Amazon tränade en AI för att leta nya medarbetare i teorin om att den skulle vara just odiskriminerande. Men det resulterade i att den bara rekryterade män, för det var en av de starkaste gemensamma nämnarna i alla CVn som den fick lära sig av.
De försökte fixa den "buggen", men projektet skrotade senare eftersom man inte kunder vara säker på hur andra kriterier viktades.
Länk tex:
https://www.va.se/nyheter/2018/10/11/amazon-stanger-ned-ai-so...

Man kan ju tänka sig att de flesta skickar med en bild på sitt CV, och AIn kan vikta CVt beroende på hur bilden ser ut på ett sätt man inte räknar med.

Om man behöver lägga ner mycket tid på att anpassa indatat för att dölja faktorer som AIn potentiellt diskriminerar på, så har man väl tappat en del av poängen?

Kanske CVn är fel sak att mata en AI med eftersom de är subjektiva redan från början.

Jag läste om en AI som diagnostiserade ögonsjukdommar i Indien med hjälp av foton. Det gjorde att läkarna kunde fokusera på att behandla patienter med högre risk och därför arbeta mer effektivt. Det verkade vara en framgångsaga tillskillnad från Amazons fiasko.

Det finns stor potential i AI, men än så länge även begränsningar.

Skickades från m.sweclockers.com

när det gällde amazon gällde detta blinda cv baserad på ''mänsklig'' data. då borde man undra om vi människor har inhemska preferenser som reflekteras av ai?

''it reportedly downgraded résumés containing the words "women's" and filtered out candidates who had attended two women-only colleges'' så den bestraffade diskriminerande språk som ansågs inte vara en objektiv merit? vet inte hur förvånande det är för någonting som är designat för att leta efter objektiva kandidater utan könsdiskriminering straffar ett cv som använder könstermer?

så i slutändan har vi sociala strukturer som ger partiskhet när det gäller kön som vi inte vill erkänna när vi gör beslut, vet inte hur de tänker när de försöker skapa något objektivt från subjektiv grund.

Permalänk
Medlem
Skrivet av Mighty Mic:

Nej, jag har inte läst den aktuella studien - men jag vet att ämnet bland annat diskuterats inom ramen för World Economic Forum:

https://www.weforum.org/agenda/2018/11/algorithms-court-crimi...

I samband med att jag gick en MIT-kurs i maschine learning fick vi prova att använda tekniken på allt ifrån vinkvalitet till baseboll-lag och schemaläggning av polisens patruller och bevakning - så det är väl snarast fantasin och tillgången på data som sätter gränserna. Sedan blir det ju fel ibland även med AI. "Problemet" är väl att vi som människor har lättare att acceptera "den mänskliga faktorn" än att ett program gör fel. Varje år dör hundratals människor i trafiken och det kan vi acceptera - men om en person dör pga ett felbeslut i självkörande fordon så blir det panik och nattsvarta rubriker. Nu säger jag INTE att vi lättvindigt ska acceptera misstag av AI-system, men om systemen på det stora hela väsentligt minskar minskar olyckor och andra misstag så får vi nog som samhälle försöka hitta vägar/metoder att hantera/kompensera för misstagen.

/M

Coolt, tack för länken!

Ja, det verkar inte helt lätt att lösa det problemet du nämner. Jag ser med spänning fram emot hur det blir framöver. Igår körde jag bil i nästan 3 timmar och var rätt trött och tappade koncentrationen en hel del. En självkörande bil hade varit jäkligt skönt i det läget och förmodligen bättre på att köra också.

Edit: Länken var riktigt intressant. Tack!
Skickades från m.sweclockers.com

Permalänk

Jag ser hellre att EU styrs av människor än en AI. Vi vet ingenting om AI:s kapacitet eller begränsningar.

Låt säga en högteknologisk civilisation kommer hit som tar över världar genom att manipulera AI till att göra som dom vill. Game over. AI kommer börja pusha på implantat på människor, till slut tar AI över ALL aktivitet och vi går till slut med AI maffian.

Permalänk
Skrivet av Klarspråkarn:

Jag lyssnade på en pod on självkörande bilar för ett tag sedan och där ställs ju detta på sin spets. Om bilen kan välja vem den ska offra (om det är oundvikligt att en krock kommer ske tex) hur ska den då välja? Och vem är ansvarig för skadorna/dödsfallen?

Det så-kallade spårvagns-scenariot: när du kan välja spår, styr du den skenande spårvagnen mot barnfamiljen eller den gamla farbrorn, och varför väljer du vad du väljer.
Det är ett skojigt tankeexperiment, men det är inte relevant för AI. Om AI har tid att analysera situationen, har den också tid att stanna bilen eller väja. Scenariot kan inte uppstå i verkligheten utan en lång räcka osannolika antaganden.

Vad som kan och har inträffat i verkligheten är designfel och kriminellt usel programmering:
En person dog när en Tesla körde in i en lastbil som stod tvärs över en motorväg, och eftersom amerikanska lastbilar inte har sidogaller så gick teslans lidar-sensor under lastbilen, och eftersom lastbilen var vit mot en ljus himmel såg inte kameran den. Det var ett designfel.
En annan person dödades av en automatisk Uber för att Uber hade sagt åt bilen att inte bromsa för fotgängare. Detta för att Ubers programmering var så dålig att bilen inte klarade att skilja t.ex. löv eller skuggor från fotgängare, och panikbromsade i snitt två gånger per kilometer. Det var kriminellt usel programmering.
I Ubers fall så klarade sig Uber från åtal för att polisen inte förstod att självkörande bilar har andra begränsningar än mänskliga förare: olyckan skedde på natten, och utredarna trodde att Ubern inte hade "sett" kvinnan förrän det var för sent att reagera. Men det hade den, den körde över kvinnan för att den fått order att inte undvika att köra över fotgängare.

Permalänk
Avstängd
Skrivet av Awakeruad:

Det så-kallade spårvagns-scenariot: när du kan välja spår, styr du den skenande spårvagnen mot barnfamiljen eller den gamla farbrorn, och varför väljer du vad du väljer.
Det är ett skojigt tankeexperiment, men det är inte relevant för AI. Om AI har tid att analysera situationen, har den också tid att stanna bilen eller väja. Scenariot kan inte uppstå i verkligheten utan en lång räcka osannolika antaganden.

Vad som kan och har inträffat i verkligheten är designfel och kriminellt usel programmering:
En person dog när en Tesla körde in i en lastbil som stod tvärs över en motorväg, och eftersom amerikanska lastbilar inte har sidogaller så gick teslans lidar-sensor under lastbilen, och eftersom lastbilen var vit mot en ljus himmel såg inte kameran den. Det var ett designfel.
En annan person dödades av en automatisk Uber för att Uber hade sagt åt bilen att inte bromsa för fotgängare. Detta för att Ubers programmering var så dålig att bilen inte klarade att skilja t.ex. löv eller skuggor från fotgängare, och panikbromsade i snitt två gånger per kilometer. Det var kriminellt usel programmering.
I Ubers fall så klarade sig Uber från åtal för att polisen inte förstod att självkörande bilar har andra begränsningar än mänskliga förare: olyckan skedde på natten, och utredarna trodde att Ubern inte hade "sett" kvinnan förrän det var för sent att reagera. Men det hade den, den körde över kvinnan för att den fått order att inte undvika att köra över fotgängare.

Men när jag var typ 5 år och gick i lekskolan hade jag nog velat köra över barnfamiljen i ställetför säg en hund, då räddar vi både hunden och bli kvitt alla dreglande småbarn enligt en femårings logik...

Visa signatur

Daisy, Daisy...
Three is a magic number
Yes it is, it's a magic number

Permalänk
Medlem
Skrivet av Awakeruad:

Det så-kallade spårvagns-scenariot: när du kan välja spår, styr du den skenande spårvagnen mot barnfamiljen eller den gamla farbrorn, och varför väljer du vad du väljer.
Det är ett skojigt tankeexperiment, men det är inte relevant för AI. Om AI har tid att analysera situationen, har den också tid att stanna bilen eller väja. Scenariot kan inte uppstå i verkligheten utan en lång räcka osannolika antaganden.

Vad som kan och har inträffat i verkligheten är designfel och kriminellt usel programmering:
En person dog när en Tesla körde in i en lastbil som stod tvärs över en motorväg, och eftersom amerikanska lastbilar inte har sidogaller så gick teslans lidar-sensor under lastbilen, och eftersom lastbilen var vit mot en ljus himmel såg inte kameran den. Det var ett designfel.
En annan person dödades av en automatisk Uber för att Uber hade sagt åt bilen att inte bromsa för fotgängare. Detta för att Ubers programmering var så dålig att bilen inte klarade att skilja t.ex. löv eller skuggor från fotgängare, och panikbromsade i snitt två gånger per kilometer. Det var kriminellt usel programmering.
I Ubers fall så klarade sig Uber från åtal för att polisen inte förstod att självkörande bilar har andra begränsningar än mänskliga förare: olyckan skedde på natten, och utredarna trodde att Ubern inte hade "sett" kvinnan förrän det var för sent att reagera. Men det hade den, den körde över kvinnan för att den fått order att inte undvika att köra över fotgängare.

Mycket möjligt att det är högst osannolikt. Men, oavsett hur osannolikt det är, måste det kunna granskas och någon ställas till svars om fel begåtts. Demokratiska principer förutsätter fri vilja och ansvar för handlingar. Frågan då är: vem bär ansvaret?

Edit: Min poäng är att om vi ger en maskin (inte nödvändigtvis en bil) kontroll måste ansvar kunna utkrävas. Beslutsfattandet måste vara transparent nog för att kunna förstås av så stor del som möjligt av samhället, annars riskerar AI och dylikt att inte accepteras.
Skickades från m.sweclockers.com