EU vill se hårdare reglering av artificiell intelligens

Permalänk
Cylon

EU vill se hårdare reglering av artificiell intelligens

Ett särskilt AI-råd och förbud mot sociala kreditsystem föreslås för skydda den personliga integriteten.

Läs hela artikeln här

Permalänk
Medlem

Tanken är god, tror inte att det kommer fungera helt men social kreditsystem m.m. får de gärna förbjuda. Det är som att be om missbruk annars.

Permalänk
Medlem

TL:DR

"Hörreni, sluta använd AI för dumheter. Det är bara VI som får lov att göra det!"

Permalänk
Medlem

Jag hörde en bra beskrivning på detta för ett tag sedan angående EUs sätt att hantera introduktionen av banbrytande teknologier i samhället (fritt återgivet):

Hela världen befinner sig i medeltiden, och är i krig med varandra när någon plötsligt uppfinner de moderna skjutvapnen. Alla tar till sig av den nya teknologin för att kunna försvara sig effektivare -- förutom EU som invänder att "men skjutvapen kan ju faktiskt vara farliga, vi måste utreda detta först", samtidigt som kriget rasar och EU-medborgare faller som käglor för den överlägsna teknologin.

Innan eurokraterna i Bryssel malt färdigt på sina papperskvarnar så kommer slaget om AI att vara över.

Permalänk
Medlem

Detta blir lätt en politisk debatt som vi ej får ha.

Men många brott så går det väldigt snabbt få bra resultat om man går på olika saker. T.ex de flesta brott av inte typen förtal, så kan man helt utesluta kvinnor. Såklart de också begår lite brott, men i sammanhanget låt ens filter plocka bort dem.
Sedan kan man plocka bort folk i åldrar, man kan även gå på hur de klär sig osv. De där Gamers, ja grip dem för allt utan någon rättegång, bara slöseri på resurser att rättegång m.m..

Och precis sådant kommer Ai med resultat grip så många skyldiga som möjligt och spara oskyldiga. Problemet är att vissa individer genom såna här algoritmer kommer bli väldigt mycket mer trakasserade än andra och det skapar inget bra samhälle.

Så jag ser direkt behovet att tänka över reglerna för utan någon styrning kommer Ai bli extremt fördomsfull.

Permalänk
Medlem

En bra tanke och något jag också tror kan vara politiskt möjligt att få fason på. Min lekmanna tanke är att tiden är rätt god nu efter att England lämnat EU, då de varit den särklass största anhängaren till perverterad nivå av allmän övervakning. Tyskland brukar traditionellt anses vara en förespråkare av personlig integritet och jag tänker mig att flera centraleuropeiska länder kan hänga på den linjen. Det blir väl i huvudsak Sverige och några östeuropeiska länder som halkar efter och som behöver en ordentlig fingervisning.

Det sociala kreditsystemet tror jag blir lätt att förbjuda. Systemet krockar med mycket av den värdegrund som EU förespråkat i flera decennier och har ett lågt politiskt pris att motsätta sig bland medlemsländerna.

Ansiktsigenkänning och kameraövervakning är ständigt återkommande ämnen, men som skulle må bra av tuffare reglering. Rent generellt används allmän kameraövervakningen som ett sorts populistiskt substitut för en närvarande och kapabel ordningsmakt, för att ingjuta en falsk trygghet genom passivt vakande ögon. Medan ansiktsigenkänningen förvärrar situationen genom att göra det än enklare att kartlägga individer på ett sätt som även under goda intentioner lätt missbrukas. Ökade trösklar för allmän kameraövervakning och kraftiga begränsningar i när och var man får använda ansiktsigenkänning anser jag vara eftersträvansvärda riktningar.

Skrivet av Sveklockarn:

Jag hörde en bra beskrivning på detta för ett tag sedan angående EUs sätt att hantera introduktionen av banbrytande teknologier i samhället (fritt återgivet):

Hela världen befinner sig i medeltiden, och är i krig med varandra när någon plötsligt uppfinner de moderna skjutvapnen. Alla tar till sig av den nya teknologin för att kunna försvara sig effektivare -- förutom EU som invänder att "men skjutvapen kan ju faktiskt vara farliga, vi måste utreda detta först", samtidigt som kriget rasar och EU-medborgare faller som käglor för den överlägsna teknologin.

Innan eurokraterna i Bryssel malt färdigt på sina papperskvarnar så kommer slaget om AI att vara över.

Kanske. Det kan ju också vara så att resten av världen är så upphetsade och oförmögna att se vilka redskap de snabbt låter sprida sig att det blir omöjligt att återkalla eller reglera utan att starka finansiärer och stora industrier ställer omöjliga krav på ansvariga politiker.

Jag tror en paus är väl motiverad. Speciellt när vi ser hur dystopiska den yttersta tillämpningen av dessa tekniker är redan idag - och hur Black Mirror-kusligt det kan bli framöver.

Permalänk
Medlem
Skrivet av Cimlite:

TL:DR

"Hörreni, sluta använd AI för dumheter. Det är bara VI som får lov att göra det!"

Skrivet av Sveklockarn:

Jag hörde en bra beskrivning på detta för ett tag sedan angående EUs sätt att hantera introduktionen av banbrytande teknologier i samhället (fritt återgivet):

Hela världen befinner sig i medeltiden, och är i krig med varandra när någon plötsligt uppfinner de moderna skjutvapnen. Alla tar till sig av den nya teknologin för att kunna försvara sig effektivare -- förutom EU som invänder att "men skjutvapen kan ju faktiskt vara farliga, vi måste utreda detta först", samtidigt som kriget rasar och EU-medborgare faller som käglor för den överlägsna teknologin.

Innan eurokraterna i Bryssel malt färdigt på sina papperskvarnar så kommer slaget om AI att vara över.

Fast förslaget här handlar inte om AI utan applikationen av det, exempelvis så ett förbud mot sociala kredit system nu gör att utveckling av sådant inte sker i samma utsträckning samt skapar en grund där sådana system inte är accepterade. Det har ju inget med andra länder att göra utan just EU och dess medborgare och att de själva säger att varken vi, våra stater eller företag som agerar med våra medborgare får använda sådana system på de som bor i EU.

Permalänk
Medlem
Skrivet av Ferrat:

Fast förslaget här handlar inte om AI utan applikationen av det,

Fast citatet handlar om AI också, då det kom från ett radioinslag som handlade om att flera världsledande nationer bygger eller sponsrar massiva datacenter för AI medan EU håller på med utredningar om utredningar.

Permalänk
Medlem

Hörde en bra kommentar om detta för ett tag sen... om/när man blir nekad lån/kredit så finns det ingen att fråga om varför. Handläggaren ser bara att algoritmen sa "nej" - ingen förklaringen. Blir ju helt galet dåligt då man inte vet vad man ska ändra/förbättra för att få sitt lån.

Att få hela sitt liv bedömt av en algoritm som ingen vet hur den fungerar känns så dumt att det bara kan vara påhittat av människor

// LZ

Permalänk
Medlem
Skrivet av Sveklockarn:

Fast citatet handlar om AI också, då det kom från ett radioinslag som handlade om att flera världsledande nationer bygger eller sponsrar massiva datacenter för AI medan EU håller på med utredningar om utredningar.

Ok, dock så ser jag inte direkt problemet med att ta det någorlunda försiktigt med teknik som kan ha världsomvälvande konsekvenser.

Permalänk
Medlem

Jag förstår inte det här med att straffet bara blir böter. Det är liksom

"Aja baja, nu bryter ni mot lagen men ni får ändå fortsätta med er olagliga aktivitet"

Permalänk
Medlem

Jag undrar om sociala kreditsystem som på Twitch med "kanalpoäng" räknas

Permalänk
Medlem
Skrivet av Sveklockarn:

Hela världen befinner sig i medeltiden, och är i krig med varandra när någon plötsligt uppfinner handgranater med defekta säkringar. Alla tar till sig av den nya teknologin för att kunna försvara sig effektivare -- förutom EU som invänder att "men teknik vi inte känner till kan vara livsfarlig, vi måste utreda detta först", samtidigt som kriget rasar och icke-EU-medborgare faller som käglor för den livsfarliga teknologin.

Drog ett annat alternativ på ditt exempel.

När det gäller AI så tror jag tåget redan gått. Det finns ingen regering som kan reglera det som kommer. Här är min dystopiska bild av vad som kommer ske.

Permalänk
Medlem

Bra!

Permalänk
Medlem
Skrivet av Ferrat:

Ok, dock så ser jag inte direkt problemet med att ta det någorlunda försiktigt med teknik som kan ha världsomvälvande konsekvenser.

Samma sak med ångmaskinen och all annan teknik som revolutionerat samtiden. Det är samhällets framtida konkurrenskraft som står på spel. Det är dags att uppfinna problemen innan man sätter in massa lösningar i väntan på ett problem.

Permalänk
Medlem
Skrivet av Sveklockarn:

Samma sak med ångmaskinen och all annan teknik som revolutionerat samtiden. Det är samhällets framtida konkurrenskraft som står på spel. Det är dags att uppfinna problemen innan man sätter in massa lösningar i väntan på ett problem.

Nja, håller inte med helt där och även vissa andra uppfinningar hade ju kanske mått bra av lite mer analys av utvecklingen och påverkan. Exempelvis förbränningsmotorer men även internet, social media, bitcoin etc.

Utvecklingen av äldre saker var dock saker som tog tid, ångmaskinen gick inte från idé till allmän implementering på ett par år och lagar, regler och hantering anpassade sig delvis. AI är saker som kan skifta på en natt, precis som det gjorde med ansiktsidentifiering när ett bolag scrapa nätet efter bilder och träna upp ett system.

Så jag är hellre på sidan av att kanske tänka till först.

Permalänk
Medlem
Skrivet av Ferrat:

Exempelvis förbränningsmotorer

Låt höra!

Permalänk
Medlem
Skrivet av Sveklockarn:

Låt höra!

Läs en miljörapport 🙂 och se hur elmotorer konkurrerandes ut.

Rättade miljö
Permalänk
Skrivet av Sveklockarn:

Jag hörde en bra beskrivning på detta för ett tag sedan angående EUs sätt att hantera introduktionen av banbrytande teknologier i samhället (fritt återgivet):

Hela världen befinner sig i medeltiden, och är i krig med varandra när någon plötsligt uppfinner de moderna skjutvapnen. Alla tar till sig av den nya teknologin för att kunna försvara sig effektivare -- förutom EU som invänder att "men skjutvapen kan ju faktiskt vara farliga, vi måste utreda detta först", samtidigt som kriget rasar och EU-medborgare faller som käglor för den överlägsna teknologin.

Innan eurokraterna i Bryssel malt färdigt på sina papperskvarnar så kommer slaget om AI att vara över.

Skulle säga att det är mer såhär i din jämförelse: EU förbjuder vapen som man vet har en stor risk att skjuta snett och träffa fel person eller explodera. Inte skjutvapen i sig.

Permalänk
Medlem
Skrivet av Ferrat:

Läs en mijlörapport 🙂 och se hur elmotorer konkurrerandes ut.

Jag tolkar det som att du har den utbredda kulturrelativistiska synen att allt ska problematiseras ur dagens perspektiv, men riktigt sån är ju tyvärr aldrig verkligheten. Elbilen dök visserligen upp 1880-talet men det fanns varken infrastruktur eller lämpliga kraftkällor vilket gjorde dem opraktiska, och sedermera utkonkurrerade av förbränningsmotorn. Förbränningsmotorerna var det vettiga alternativet med högre verkningsgrad och mycket mindre föroreningar än ångmaskinerna, vilket annars var det gängse sättet att generera elektricitet på den tiden.

Permalänk
Medlem

Så om AI tolkar något på ett sätt, eller inte tycker som vi så är det troligen fördomar och ska regleras.

Permalänk
Medlem
Skrivet av Sveklockarn:

Jag tolkar det som att du har den utbredda kulturrelativistiska synen att allt ska problematiseras ur dagens perspektiv, men riktigt sån är ju tyvärr aldrig verkligheten. Elbilen dök visserligen upp 1880-talet men det fanns varken infrastruktur eller lämpliga kraftkällor vilket gjorde dem opraktiska, och sedermera utkonkurrerade av förbränningsmotorn. Förbränningsmotorerna var det vettiga alternativet med högre verkningsgrad och mycket mindre föroreningar än ångmaskinerna, vilket annars var det gängse sättet att generera elektricitet på den tiden.

Så vi ska inte analysera teknologi idag med vad som eventuellt kan ske i framtiden? Inte ta lärdomar av hur man förr bara agera, blyfärg, asbestos mm?

EDIT:
När det kommer till elmotorn så sant, men det fanns inte heller mycket som låg för förbränningsmotorn i början. Tekniken hade kanske tagit mer tid att utveckla och så men låsta patent, seg utveckling etc. det var inte förrän en ny aktör slog sig in på marknaden med ett "galet" koncept som marknaden ändrades.

Permalänk
Medlem

Detta är intressant, men man kan ju fortfarande sätta upp kameror med personal på plats, samla in ansikten och söka efter referenser på nätet. För att sen träna sin AI att hitta och koppla ansikten och sociala media konton.

Men att sen utesluta vissa personer för att dom verkar var i "fel" kategori är ju något EU borde vara emot.
Det är inte tekniken i sig som är fel utan det är implementationen. Här verkar man förstå det och försöka motverka det.

Permalänk
Medlem
Skrivet av Sveklockarn:

Samma sak med ångmaskinen och all annan teknik som revolutionerat samtiden. Det är samhällets framtida konkurrenskraft som står på spel. Det är dags att uppfinna problemen innan man sätter in massa lösningar i väntan på ett problem.

Vi kan ta kärnkraft och kärnvapen, man kan undra vad och hur världen skulle sett ut idag om inte IAEA blev grundat 1957.

Eller som exempel, om nu inget regelverk för högspänning funnits. Är rätt säker på att dom flesta tar det regelverket för givet, bara tänk tanken om vi inte haft ett regelverk som reglerade högspänning.

Men vi återgår till ångmaskinen, om den varit reglerad från början så skulle en del katastrofer aldrig hänt.
Sultana var en ångbåt som exploderade den 27'e April 1865 och över 1100 människor miste livet, där är olika uppgifter om antal döda där en del säger 1800 döda.
Grover sko fabrik i Brockton exploderade den 20'e Mars 1905 med äver 50 döda och 150 skadade.
Med flera...
Vi har haft explosioner även i Sverige, dom flesta har slutat lyckligt.
Ett ex. är Dalssågen som exploderade i Januari 1931.

Fanns ingen konkurrenskraft kvar efter ovanstående exempel, bara elände, död, förödelse och skulder.

Konkurrenskraft kan ske på många sätt, men att blint ha övertro på ny teknik som påverkar människors liv, hälsa och möjligheter. Tveksamt.
Med en bra famn tur så kanske det kan fungera, med något mindre tur så kanske det slår tillbaka med full kraft.

Ser en fördel i om problem förebyggs innan dom hinner uppstå, att regelverk skapas och utvecklas genom erfarenhet över tiden.
Det är vad EU vill göra gällande AI.

Permalänk
Medlem

Och där kom känsloargumenten. Politiker är som vanligt de minst lämpade att bestämma över vilka teknologier samhället ska använda sig av, och med detta inlägg avslutar jag mitt deltagande i den här tråden.

Permalänk
Medlem
Skrivet av Sveklockarn:

Och där kom känsloargumenten. Politiker är som vanligt de minst lämpade att bestämma över vilka teknologier samhället ska använda sig av, och med detta inlägg avslutar jag mitt deltagande i den här tråden.

Känsloargumenten?

Permalänk
Medlem
Skrivet av Bengt-Arne:

Ser en fördel i om problem förebyggs innan dom hinner uppstå, att regelverk skapas och utvecklas genom erfarenhet över tiden.
Det är vad EU vill göra gällande AI.

Jag ser problemet med Ai att man redan vet vad viss resultat kommer bli och man gillar inte detta och då redan i konstruktionen får bygga Ain så den arbetar på ett visst sätt.
Statistisk sett finns det mönster med olika saker. Genom att bara se var någon bor så kan man med hyfsat sannolikhet veta om vad den röstar på. Det finns hur mycket som helst mönster som är enkla att dra och de stämmer bra överens.
Problemet är att man oftast vill ha en fördomsfri Ai som ej tar med denna information som en parameter.

Personer som granskar saker idag är självklart inte helt fördomsfulla, men en Ai som hade jobbat på egen hand kommer bli extrem fördomsfull på alla saker som lätt går att urskilja det den kollar emot.

Permalänk
Medlem
Skrivet av lillaankan_i_dammen:

Jag ser problemet med Ai att man redan vet vad viss resultat kommer bli och man gillar inte detta och då redan i konstruktionen får bygga Ain så den arbetar på ett visst sätt.
Statistisk sett finns det mönster med olika saker. Genom att bara se var någon bor så kan man med hyfsat sannolikhet veta om vad den röstar på. Det finns hur mycket som helst mönster som är enkla att dra och de stämmer bra överens.
Problemet är att man oftast vill ha en fördomsfri Ai som ej tar med denna information som en parameter.

Personer som granskar saker idag är självklart inte helt fördomsfulla, men en Ai som hade jobbat på egen hand kommer bli extrem fördomsfull på alla saker som lätt går att urskilja det den kollar emot.

Har inte med hur AI'n arbetar, utan mer vad man stoppar in och vill ha ut.

Såsom massövervakning, kartläggning av etniska grupper, åsiktsregistrering, sexuella preferenser och liknande.
Det är sånt som handlar om människans frihet och rörlighet, vilket för EU's del är grundbulten inskriven i EU's grundlag.

Det du skriver om kan man redan idag som enskild få reda på via hitta, ratsit med flera.
För det behövs ingen AI ens.
Edit: Om man däremot kör det i en AI så uppstår en farlig situation där överheten (stat, organisationer eller företag) då kan köra med "röd flagg" för vissa individer efter eget lynne. Då med stor datamängd, som annars vore omöjligt.
Var kanske det du menade!

Däremot så kan nog AI göra nytta i en del bedömningar som idag hanteras av människor, och med det få bort just "fördomar". För att inte tala om det som benämns "svågerpolitik"...

Permalänk
Medlem

AI kan vara riktigt bra och starkt för vissa saker, så som att kunna få information om störningar i trafiken eller för att kunna få information om sjukdom som sprids i området man bor i.
Men man ska också vara jäkligt försiktig med vad den används till. Används den till fel saker så kan liv förstöras. Räcker med att se en kamera på en husvägg och man får direkt en knut i magen av att man känner sig övervakad. Tänk då hur det som det nämndes i artikeln skulle vara med Kinas kreditsystem.

Permalänk
Medlem
Skrivet av Sveklockarn:

Jag hörde en bra beskrivning på detta för ett tag sedan angående EUs sätt att hantera introduktionen av banbrytande teknologier i samhället (fritt återgivet):

Hela världen befinner sig i medeltiden, och är i krig med varandra när någon plötsligt uppfinner de moderna skjutvapnen. Alla tar till sig av den nya teknologin för att kunna försvara sig effektivare -- förutom EU som invänder att "men skjutvapen kan ju faktiskt vara farliga, vi måste utreda detta först", samtidigt som kriget rasar och EU-medborgare faller som käglor för den överlägsna teknologin.

Innan eurokraterna i Bryssel malt färdigt på sina papperskvarnar så kommer slaget om AI att vara över.

Snarare som att vi uppfinner bilar och så sitter någon och klagar på att vi behöver ställa upp regler för hur dem används. Eller varför inte ta giftgas för att hoppa på ditt enfaldiga exempel? Varför ska vi sitta med någon Genèvekonvention och förbjuda moderna vapen, vi vill väl inte sitta i medeltiden? (sarkasm)

Det är knappast som om att EU förbjuder AI utan EU förbjuder endast viss användning av AI som är skadlig för EU-invånarnas rättigheter eller den fria konkurrensen. Precis som all ny teknik behövs modern lagstiftning för att reglera hur den används.