EU publicerar riktlinjer för utveckling av artificiell intelligens

Well – det var många fina ord och föresatser om AI. Problemet är väl snarast att EU knappast sitter i förarsätet när det gäller AI-utvecklingen utan snarare agerar som en åskådare med en massa åsikter när tekniken utvecklas/formas. Jag kommer osökt att tänka på en idrottssupporter som häver ur sig otidigheter till någon utövare, samtidigt som hens mest fysiska aktivitet de senaste 10 åren tycks ha varit att lyfta ölflaskan från bordet till läpparna.

Även om det givetvis är trevligt att EU nu engagerar sig i frågan kan jag tycka att det vore passande om man också var mer engagerad i att lyfta nivån på europeisk AI-forskning. De initiativ som ändå tas idag beror till största delen på privata donationer som WASP, medan den offentligt finansierade AI-forskningen både är begränsad och inte sällan missriktad.

Under den tid som jag intresserat mig för AI har jag bland annat stött på ”undervisning” in neurovetenskap vid ett tekniskt universitet helt utan lärarledd undervisning och examination – och när jag ordnade tillstånd för kursledningen att använda material i absolut världsklass från Harvard, så valde man ändå att hålla fast vid sin icke-pedagogik.

Jag har också mött handledare och examinatorer i samband med mina magisteruppsatser om AI (2 st) som helt har saknat förståelse för utvecklingen utan bara lutat sig mot föråldrade kunskaper – ex en kurs som hen tidigare hållit baserad på Dreyfus ”what computers still can’t do” – ifrån 1992. Mao menar jag att EU/Västeuropa/Sverige har en hel del jobb kvar att om vi ska vara något mer än bara åskådare.

/M

Nej - AI är mycket mycket större än så - redan nu. Se ex mina poster om IBMs senaste framsteg med Watson - dels som debattör och dels som HR-verktyg:

https://www.sweclockers.com/forum/trad/1548630-ibms-ai-watson...

https://www.sweclockers.com/forum/trad/1554460-ibms-ai-basera...

https://www.mckinsey.com/featured-insights/artificial-intelli...

/M

''AI-system som används inom sjukvården inte ska tillåtas att göra skillnad på hudfärg och etnicitet'' wew lad snacka om syndabockar galore, inväntar regler mot kroppsfett och sexualitet. Att påstå att en jävla robot har behov av ras koncept är bortom absurt. Men vi eu måste ju dygd signalera för skattebidraget trotts allt. Absolut det äckligaste och mest ouppriktiga jag läst på sedan ''afro-europer'' tillkännagavs som en utsatt klass i eu parlamentet och resolution gick igenom. Eu sysslar med extremt mycket identitets politik. Sovjet 2.0

Säg nej Till ''Empatisk'' rasism

Som tur är, är det lättare att styra datorer än människor

Skickades från m.sweclockers.com

jo men i slutet av alla hans berättelser så utvecklades ju aien så dom kunde ignorera de tre lagarna

Känns lite som att du missat hur en avancerad IA görs idag. Pga inlärningsalgoritmer är det otroligt svårt att förutsäga hur en AI kommer bete sig, och om det dataset som används vid inlärningen är vinklat så kommer även AIns beteende bli det. Det finns redan exempel på diskriminerande beteende av AI som är ett resultat av att datasettet inte varit tillräckligt varierat.

Skickades från m.sweclockers.com

Snälla förklara vilken inlärningsmetod skulle göra data på ''etnicitet'' direkt relevant eller rentav tillgängligt för en special anpassad ai? kan du komma på ett scenario där denna information skulle i något sätt vara praktiskt? låter som ett par boomers som behandlar ai som en slags självständig levande organism som anpassar sig efter arbiträra mänskliga sidoeffekter efter vår evolution.

Försök inte jämföra motiveringar baserade på konspirationsteorier för lagstiftande mot diskriminering baserat på bristande data.
Du kan inte blanda objektiv design med subjektiva påverkningar. Jag tror inte vi är på samma sida här.

Amazon tränade en AI för att leta nya medarbetare i teorin om att den skulle vara just odiskriminerande. Men det resulterade i att den bara rekryterade män, för det var en av de starkaste gemensamma nämnarna i alla CVn som den fick lära sig av.
De försökte fixa den "buggen", men projektet skrotade senare eftersom man inte kunder vara säker på hur andra kriterier viktades.
Länk tex:
https://www.va.se/nyheter/2018/10/11/amazon-stanger-ned-ai-so...

Man kan ju tänka sig att de flesta skickar med en bild på sitt CV, och AIn kan vikta CVt beroende på hur bilden ser ut på ett sätt man inte räknar med.

Om man behöver lägga ner mycket tid på att anpassa indatat för att dölja faktorer som AIn potentiellt diskriminerar på, så har man väl tappat en del av poängen?

Kanske CVn är fel sak att mata en AI med eftersom de är subjektiva redan från början.

Jag läste om en AI som diagnostiserade ögonsjukdommar i Indien med hjälp av foton. Det gjorde att läkarna kunde fokusera på att behandla patienter med högre risk och därför arbeta mer effektivt. Det verkade vara en framgångsaga tillskillnad från Amazons fiasko.

Det finns stor potential i AI, men än så länge även begränsningar.

Skickades från m.sweclockers.com

Suck - det tycks som att din syn på vad AI är och inte är, är väl snäv. Jag vet inte vad du grundar din uppfattning på - men jag håller inte med dig. AI används redan för cancerdiagnos/behandlingsplaner - med bättre resultat än behandlande läkare. Det används också för många många andra funktioner, exempelvis som stöd för HR-funktioner, för effektivare drift av Googles datorhallar och för självkörande bilar. Studier visar att företag med en ambitiös och implementerad AI-strategi uppvisar högre lönsamhet än sina konkurrenter oavsett bransch, men särskilt inom branscher med naturlig tillgång till mycket data (ex hälsovård och finans).

Övervakning, kontroll och propaganda är en del av AI - men bara en begränsad del. AI är mycket större än så.

/M

Det är oklart.

Jag råkade ratta in p3 igår förmiddag när jag åkte bil och de hade en gäst som är inblandad i ett nytt, stort forskningsprojekt om just fri vilja:

https://sigtunastiftelsen.se/nyheter/sigtunastiftelsen-far-4-...

I radioprogrammet pratar han även kort om fri vilja och AI.

Skickades från m.sweclockers.com

Det är jobbigt att erkänna att datorer ibland är objektivt bättre än människor på att fatta beslut.

Jag läste om någon AI-liknande funktion som skulle försöka förutsäga återfallsrisken för tunga förbrytare och jämföra resultatet med experters bedömningar (du kanske läst den studien?). AI:n vann, eftersom experterna tog hänsyn till variabler som inte var relevanta (jag är dock osäker på om AI:n kanske fick för många falska positiva, dvs var för hård i bedömningen ibland).

De flesta personer har en tendens att tro gott om andra, att förlåta. Och det är mycket funktionellt i vanliga sammanhang, men sannolikt inte med många tungt kriminella.

Så ja, AI verkar kunna vara mycket användbart i många sammanhang. Sen finns förstås en stor fråga: Om den gör fel, vem ska då straffas?

Jag lyssnade på en pod on självkörande bilar för ett tag sedan och där ställs ju detta på sin spets. Om bilen kan välja vem den ska offra (om det är oundvikligt att en krock kommer ske tex) hur ska den då välja? Och vem är ansvarig för skadorna/dödsfallen?

Skickades från m.sweclockers.com

när det gällde amazon gällde detta blinda cv baserad på ''mänsklig'' data. då borde man undra om vi människor har inhemska preferenser som reflekteras av ai?

''it reportedly downgraded résumés containing the words "women's" and filtered out candidates who had attended two women-only colleges'' så den bestraffade diskriminerande språk som ansågs inte vara en objektiv merit? vet inte hur förvånande det är för någonting som är designat för att leta efter objektiva kandidater utan könsdiskriminering straffar ett cv som använder könstermer?

så i slutändan har vi sociala strukturer som ger partiskhet när det gäller kön som vi inte vill erkänna när vi gör beslut, vet inte hur de tänker när de försöker skapa något objektivt från subjektiv grund.

Coolt, tack för länken!

Ja, det verkar inte helt lätt att lösa det problemet du nämner. Jag ser med spänning fram emot hur det blir framöver. Igår körde jag bil i nästan 3 timmar och var rätt trött och tappade koncentrationen en hel del. En självkörande bil hade varit jäkligt skönt i det läget och förmodligen bättre på att köra också.

Edit: Länken var riktigt intressant. Tack!
Skickades från m.sweclockers.com

Mycket möjligt att det är högst osannolikt. Men, oavsett hur osannolikt det är, måste det kunna granskas och någon ställas till svars om fel begåtts. Demokratiska principer förutsätter fri vilja och ansvar för handlingar. Frågan då är: vem bär ansvaret?

Edit: Min poäng är att om vi ger en maskin (inte nödvändigtvis en bil) kontroll måste ansvar kunna utkrävas. Beslutsfattandet måste vara transparent nog för att kunna förstås av så stor del som möjligt av samhället, annars riskerar AI och dylikt att inte accepteras.
Skickades från m.sweclockers.com