Apple förbjuder anställda att använda Chat GPT

Permalänk
Melding Plague

Apple förbjuder anställda att använda Chat GPT

För att förhindra företagshemligheter som kod till kommande nya produkter att läcka har Apple infört ett förbud för anställda att använda AI-chattbotar.

Läs hela artikeln här

Visa signatur

Observera att samma trivselregler gäller i kommentarstrådarna som i övriga forumet och att brott mot dessa kan leda till avstängning. Kontakta redaktionen om du vill uppmärksamma fel i artikeln eller framföra andra synpunkter.

Permalänk
Medlem

Inget ovanligt i industrin tror jag. Förbjudet där jag jobbar också.

Permalänk
Medlem

Huga. Hoppas de inte hittar på nått sånt på mitt jobb.

Mkt roligare än Google. Häromdan hittade "han" på en ny medlemsfunktion till QTreeWidget helt ur tomma intet, gav endel skratt.

Permalänk
Snusfri

Bra.

Visa signatur

WS: i9 13900K - 128GB RAM - 6.5TB SSD - RTX 3090 24GB - LG C2 42" - W11 Pro
LAPTOP 1: Lenovo Gaming 3 - 8GB RAM - 512GB SSD - GTX 1650
LAPTOP 2: Acer Swift 3 - 8GB RAM - 512GB SSD
SERVER: i5 10400F - 64GB RAM - 44TB HDD
NALLE: Pixel 7 Pro

Permalänk
Medlem

Strängt förbjudet även hos oss, likväl andra Ai-appar etc.

En hel del människor anar inte vilka negativa konsekvenser som kan förekomma med dessa Ai-funktioner.

Permalänk
Medlem

Tror ni det kommer dyka upp en "non training" version av ai program som inte lär sig av det användarna använder? Iaf att det finns en flagga med 'lär dig/ minns inte detta ' ?

Permalänk
Medlem

Tror många företag borde se över hur ChatGPT används.

Ser inget farligt med att få förslag på enklare texter med öppen säkerhetsklass.

Däremot lite naivt att skicka in känslig kod för ett banksystem och låta ChatGPT dokumentera detta.

Just Microsoft sätt att tvinga in folk till OneDrive, Sharepoint, Office 365 samt Bing gör att all känslig data är i riskzonen.

Tyvärr har Microsoft även sett till att få användare numera vet var saker och ting sparas.

Blir helt klart svårare och svårare att jobba med känsliga uppgifter, när mycket numera hostas i främmande land som USA eller Kina.

Permalänk
Medlem

Förbjuder de CHAT GPT där jag jobbar så är det inte omöjligt att jag byter jobb. CHAT GPT har gjort att jag fått tillbaka glöden för utveckling igen, man behöver inte spendera timmar på tråkiga grejer utan kan fokusera på de roliga delarna. Dessutom är CHAT GPT väldigt duktig på att förklara hur och varför. Jag måste givetvis inte ha CHAT GPT för att utveckla men det gör livet väldigt mycket enklare, iallafall i den miljö jag sitter i. Ser fram emot den dag då CHAT GPT är något man köper in till företaget och som tränas upp inom stängda dörrar på business intel men det lär tyvärr ta tid.

Nu låter det kanske som att jag är ny som programmerare men jag har jobbat med det i 15 år och har varit väldigt driven inom ämnet. Det är uppenbart att man fortfarande måste veta vad man gör annars kan CHAT GPT lätt villa på en komplexa och rakt av dåliga lösningar. Men vet man bara vad man söker och kan verifiera det så finns det tid att spara in och det är framförallt den tråkiga tiden man kan trycka ner. Dessutom har CHAT GPT alltid tid att hjälpa till att lösa problem

Visa signatur

CPU : AMD Ryzen 5 5600X Moderkort : ASUS ROG Strix B550-F GAMING Grafikkort :EVGA GeForce GTX 1080 Ti FTW3 iCX Gaming HDMI 3xDP 11GBMinne : Corsair 16GB Chassi :Fractal Design Define 7 Compact Nätdel : Corsair RM750x Skärm #1 : Asus VG349Q Ultrawide Skärm #2 : Acer X34 Ultrawide

Permalänk
Medlem
Skrivet av Jimmy:

Ser fram emot den dag då CHAT GPT är något man köper in till företaget och som tränas upp inom stängda dörrar på business intel men det lär tyvärr ta tid.

Det kan man väl redan genom att använda modellen via Azure. Man måste väl dock idag ha ”giltiga argument” för att få access få de prioriterar säkert större företag enbart just nu.

Tror det är bra att man förbjuder tills man kan sätta upp bra riktlinjer för hur det kan användas och se till att alla förstår hur datan används och vad det innebär att dela med sig.

Att delge chatgpt information är som att säga det till den största skvallertanten i syföreningen.

Permalänk
Medlem

Känns som att det snart kommer komma on-prem eller andra former för stora bolag att hosta en egen instans lokalt som inte läcker data. Köpa ett antal svarta lådor att sätta upp lokalt

Permalänk
Medlem
Skrivet av walkir:

Däremot lite naivt att skicka in känslig kod för ett banksystem och låta ChatGPT dokumentera detta.

Lite naivt... Då har man ju samlat ihop tillräckligt med idiot-poäng för att få sparken direkt.

Permalänk
Medlem

Det som är farligt är att man kanske tänker att det vore häftigt att testa en extension till tex Visual studio code för att se hur det fungerar utan att tänka på att den automatiskt har tillgång till och använder alla öppna flikar. Och då kanske man tex har en fil öppen med känslig kunddata så skickas det upp. (Även om man kanske inte borde ha tillgång till den informationen på det sättet, men som extremfall. Kan ju vara en extremt komplex intern och hemlig algoritm med).

Permalänk
Medlem

Man undrar ju hur nära solen Microsoft kan flyga innan det slår bakut.
Man har drivit en ganska så hårt inlåsande taktik de senaste åren som vad jag känner och har noterat har resulterat i mer och mer irritation hos slutanvändare och numera även på organisationsnivå.

Permalänk
Medlem
Skrivet av Dhanjel:

Det kan man väl redan genom att använda modellen via Azure. Man måste väl dock idag ha ”giltiga argument” för att få access få de prioriterar säkert större företag enbart just nu.

Ja, det går väll att få till om man är dedikerad men det vill till att företaget har satt sig in och godkänt vilket jag tror är mindre vanligt än så länge.

Skrivet av Dhanjel:

Tror det är bra att man förbjuder tills man kan sätta upp bra riktlinjer för hur det kan användas och se till att alla förstår hur datan används och vad det innebär att dela med sig.

Att delge chatgpt information är som att säga det till den största skvallertanten i syföreningen.

Detta är ju ändå lite intressant, hur använder du Chat GPT eller tänker att man använder det för utveckling? Vanligen bryter man ner program i mycket små kodblock som vart och ett unittestas för sig. Även om det är uppenbart vad kod blocken gör så krävs det mer för att förstå vilken funktion det verkligen fyller i det stora hela. Det är inte precis som att man sitter där och förklarar hela sin lösning eller för den delen klistrar in all sin kod direkt från en kodbas.

Men jag kan absolut tänka mig att om man på en högre nivå börjar försöka lösa problem med CHAT GPT så kan det läcka hemligheter men förstår inte varför man skulle göra det? Man kan väl säga att Chat GPT ersätter till stor del det som stackoverflow gör för mig men på ett många gånger effektivare vis, där lägger man knappast ut några hemligheter?

Visa signatur

CPU : AMD Ryzen 5 5600X Moderkort : ASUS ROG Strix B550-F GAMING Grafikkort :EVGA GeForce GTX 1080 Ti FTW3 iCX Gaming HDMI 3xDP 11GBMinne : Corsair 16GB Chassi :Fractal Design Define 7 Compact Nätdel : Corsair RM750x Skärm #1 : Asus VG349Q Ultrawide Skärm #2 : Acer X34 Ultrawide

Permalänk
Medlem
Skrivet av LicKeN:

Man undrar ju hur nära solen Microsoft kan flyga innan det slår bakut.
Man har drivit en ganska så hårt inlåsande taktik de senaste åren som vad jag känner och har noterat har resulterat i mer och mer irritation hos slutanvändare och numera även på organisationsnivå.

Inlåst? Är det inte tvärtom? deras .NET Framework är mer öppet än någonsin?

Eller tänker du på rena tjänster? Tja, det är så fall så som alla andra också gör? Apple?

Visa signatur

CPU : AMD Ryzen 5 5600X Moderkort : ASUS ROG Strix B550-F GAMING Grafikkort :EVGA GeForce GTX 1080 Ti FTW3 iCX Gaming HDMI 3xDP 11GBMinne : Corsair 16GB Chassi :Fractal Design Define 7 Compact Nätdel : Corsair RM750x Skärm #1 : Asus VG349Q Ultrawide Skärm #2 : Acer X34 Ultrawide

Permalänk
Medlem

Hur brukar de anställda söka upp saker? Läsa böcker? Borde väl vara samma problem med alla sökmotorer.

Visa signatur

AMD Ryzen 7 5800X3D | EVGA GeForce RTX 3080 10GB FTW3 ULTRA | ASUS ROG Strix B450-F Gaming | Corsair RM750X V2 | Crucial Ballistix Sport LT 3200MHz 16GB | Samsung 980 Pro 1TB | Crucial MX500 2TB | NZXT H500

Permalänk
Medlem
Skrivet av Jimmy:

Ja, det går väll att få till om man är dedikerad men det vill till att företaget har satt sig in och godkänt vilket jag tror är mindre vanligt än så länge.

Detta är ju ändå lite intressant, hur använder du Chat GPT eller tänker att man använder det för utveckling? Vanligen bryter man ner program i mycket små kodblock som vart och ett unittestas för sig. Även om det är uppenbart vad kod blocken gör så krävs det mer för att förstå vilken funktion det verkligen fyller i det stora hela. Det är inte precis som att man sitter där och förklarar hela sin lösning eller för den delen klistrar in all sin kod direkt från en kodbas.

Men jag kan absolut tänka mig att om man på en högre nivå börjar försöka lösa problem med CHAT GPT så kan det läcka hemligheter men förstår inte varför man skulle göra det? Man kan väl säga att Chat GPT ersätter till stor del det som stackoverflow gör för mig men på ett många gånger effektivare vis, där lägger man knappast ut några hemligheter?

Det är ju inte ChatGPT man använder egentligen då rent krasst (även om det går tror jag) Chat.. är ju bara ett av interfacen för GPT just för webchat.
I VSCode så går man nog oftast via tex CoPilot X.

Har inte testat det själv men den verkar klara mer än man tror när den har ett större kontext.

Permalänk
Medlem
Skrivet av Cenorida:

Hur brukar de anställda söka upp saker? Läsa böcker? Borde väl vara samma problem med alla sökmotorer.

Njae problemet här är väl att man kan kopiera in stora stycken av kod /filer och som ChatGPT/AI reviewar och därfår kan få tillgång till hemlig/känslig kod. I vanliga sökmotorerna så kan man på sin höjd kopiera in en kodrad för att söka efter något liknande, det kan fortfarande vara känsligt men mycket svårare att få ut något sammanhang då.

Permalänk
Medlem
Skrivet av Ortovox:

Njae problemet här är väl att man kan kopiera in stora stycken av kod /filer och som ChatGPT/AI reviewar och därfår kan få tillgång till hemlig/känslig kod. I vanliga sökmotorerna så kan man på sin höjd kopiera in en kodrad för att söka efter något liknande, det kan fortfarande vara känsligt men mycket svårare att få ut något sammanhang då.

Vad är skillnaden mot stackoverflow som sågitt som alla utvecklare använder/använt?

Visa signatur

CPU : AMD Ryzen 5 5600X Moderkort : ASUS ROG Strix B550-F GAMING Grafikkort :EVGA GeForce GTX 1080 Ti FTW3 iCX Gaming HDMI 3xDP 11GBMinne : Corsair 16GB Chassi :Fractal Design Define 7 Compact Nätdel : Corsair RM750x Skärm #1 : Asus VG349Q Ultrawide Skärm #2 : Acer X34 Ultrawide

Permalänk
Medlem
Skrivet av Dhanjel:

Det är ju inte ChatGPT man använder egentligen då rent krasst (även om det går tror jag) Chat.. är ju bara ett av interfacen för GPT just för webchat.
I VSCode så går man nog oftast via tex CoPilot X.

Har inte testat det själv men den verkar klara mer än man tror när den har ett större kontext.

Copilot X har inte släppts än. Så vad man puttar in i GPT bestämmer man aktivt för varje ärende.

Visa signatur

CPU : AMD Ryzen 5 5600X Moderkort : ASUS ROG Strix B550-F GAMING Grafikkort :EVGA GeForce GTX 1080 Ti FTW3 iCX Gaming HDMI 3xDP 11GBMinne : Corsair 16GB Chassi :Fractal Design Define 7 Compact Nätdel : Corsair RM750x Skärm #1 : Asus VG349Q Ultrawide Skärm #2 : Acer X34 Ultrawide

Permalänk
Medlem
Skrivet av Jimmy:

Vad är skillnaden mot stackoverflow som sågitt som alla utvecklare använder/använt?

Det som skickas till chatgpt och deras api om man inte gör opt-out matas också in i träningen för deras modell.
Så låt säga att du skickar en lista på personnummer och lön (nu är ju inte det jättehemligt, men ändå) och ber den
att plocka ut de 4 personer som har högst lön. Så skulle någon sen (i teorin) kunna fråga "vad tjänar personen med personnummer XXX" och få ett svar. Osv.

Skrivet av Jimmy:

Copilot X har inte släppts än. Så vad man puttar in i GPT bestämmer man aktivt för varje ärende.

Nej men tillgängligt för beta-test. X betecknar just deras nästa version som inte är släppt skarpt.

Permalänk
Medlem

Får mig undra över om det är någon av er som använder er av chatGPT i era arbeten som faktiskt har läst igenom hela användaravtalet innan ni började använda det.

Permalänk
Medlem
Skrivet av filbunke:

Får mig undra över om det är någon av er som använder er av chatGPT i era arbeten som faktiskt har läst igenom hela användaravtalet innan ni började använda det.

Nej inte läst det. Inte användaravtalet för Google heller för den delen.

Vad står det för spännande?

Permalänk
Medlem
Skrivet av Dhanjel:

Det som skickas till chatgpt och deras api om man inte gör opt-out matas också in i träningen för deras modell.
Så låt säga att du skickar en lista på personnummer och lön (nu är ju inte det jättehemligt, men ändå) och ber den
att plocka ut de 4 personer som har högst lön. Så skulle någon sen (i teorin) kunna fråga "vad tjänar personen med personnummer XXX" och få ett svar. Osv.

Matar man in "känslig" data på en websida utan att tänka efter så kan det säkert vara ett problem, men det gäller väl även om du hade gjort samma sak på säg Stackoverflow? Visst kan man få känslan av att konversationen med GPT är privat men då har man inte förstått verktyget.

Måste man absolut ställa en sådan fråga så ser man till att mata in fiktiv data såklart, precis som man gör i vilken annan testmiljö som helst.

Men ja, jag förstår din poäng, det finns alltid de som ställer till det så vi inte kan ha fina grejer utan att ha en massa säkerhets pålägg ovanpå.

Skrivet av Dhanjel:

Nej men tillgängligt för beta-test. X betecknar just deras nästa version som inte är släppt skarpt.

Vi är några st som står i kö för Codepilot X, vad jag vet så har ingen fått ta del av tjänsten än? Denj Codepilot som finns att tillgå idag bygger inte på GTP.

Visa signatur

CPU : AMD Ryzen 5 5600X Moderkort : ASUS ROG Strix B550-F GAMING Grafikkort :EVGA GeForce GTX 1080 Ti FTW3 iCX Gaming HDMI 3xDP 11GBMinne : Corsair 16GB Chassi :Fractal Design Define 7 Compact Nätdel : Corsair RM750x Skärm #1 : Asus VG349Q Ultrawide Skärm #2 : Acer X34 Ultrawide

Permalänk
Medlem
Skrivet av Jimmy:

Matar man in "känslig" data på en websida utan att tänka efter så kan det säkert vara ett problem, men det gäller väl även om du hade gjort samma sak på säg Stackoverflow? Visst kan man få känslan av att konversationen med GPT är privat men då har man inte förstått verktyget.

Måste man absolut ställa en sådan fråga så ser man till att mata in fiktiv data såklart, precis som man gör i vilken annan testmiljö som helst.

Men ja, jag förstår din poäng, det finns alltid de som ställer till det så vi inte kan ha fina grejer utan att ha en massa säkerhets pålägg ovanpå.

Vi är några st som står i kö för Codepilot X, vad jag vet så har ingen fått ta del av tjänsten än? Denj Codepilot som finns att tillgå idag bygger inte på GTP.

Lägger man upp ett inlägg på ett forum så förstår nog gemene man att det då blir tillgängligt. Att något man gör i en ”chat” blir det kanske inte är lika tydligt. Alla har inte samma internet-kompetens, alla dessa ”indisk prins som behöver hjälp med att föra över pengar”-mail skördar fortfarande offer.

Uhm är ganska säker på att flera på jobbet har copilot x. Jag har dock inte ansökt då jag inte ser något behov för mig just nu.

Permalänk
Medlem
Skrivet av filbunke:

Får mig undra över om det är någon av er som använder er av chatGPT i era arbeten som faktiskt har läst igenom hela användaravtalet innan ni började använda det.

Läst tillräckligt för att veta att jag inte behöver kopiera min kod direkt in till den. Går att ställa generella frågor och beskriva problemet med förslagsvisa önskelösningar (precis som man kan göra med en människa) utan ens skriva en rad kod.
Skriver jag in kod så skriver jag om koden jag ger den i en mer generell form utan hintar om vad jag egentligen gör (t.ex. ändrar variabel och funktionsnamn).
Använder GPT plus inklusive plugins, helt fantastiskt verktyg/kod-kompanjon

Permalänk
Skrivet av indigun:

Tror ni det kommer dyka upp en "non training" version av ai program som inte lär sig av det användarna använder? Iaf att det finns en flagga med 'lär dig/ minns inte detta ' ?

De tränas inte under användning.

Hur chatGPT gör för att ”minnas” vet jag inte säkert men troligtvis handlar det bara om att text från tidigare delar av konversationen skickas med i frågan. Inga vikter justeras under inferens i alla fall.

Visa signatur

1

Permalänk
Medlem
Skrivet av Dhanjel:

Lägger man upp ett inlägg på ett forum så förstår nog gemene man att det då blir tillgängligt. Att något man gör i en ”chat” blir det kanske inte är lika tydligt. Alla har inte samma internet-kompetens, alla dessa ”indisk prins som behöver hjälp med att föra över pengar”-mail skördar fortfarande offer.

Förstår man inte att man jobbar med känslig data och att den inte ska postas online oavsett typ av website så skulle jag säga att man sitter på fel rättigheter\position. Kanske behöver man en disclaimer i stil med denna i Chat GPT :

"This software is not recommended to the weak, sluggish, mentally disabled or lack of experience and common sense(including children), unless they have been given supervision or instructions by a person who will be responsible for their safety".

Men visst, för ett stort företag kan det bli svårt att ha koll på vem som förstår hur verktyget ska användas, kanske måste det till någon typ av certifiering. En sak är säker, Chat GPT tjänster kommer bli standard, det snabbar upp utvecklingen avsevärt, dessutom kan utvecklare klara av mer på egen hand utan atta tid från andra trånga resurser.

Skrivet av Dhanjel:

Uhm är ganska säker på att flera på jobbet har copilot x. Jag har dock inte ansökt då jag inte ser något behov för mig just nu.

Vad jag förstått så måste man prenumererar på Copilot(föregående version) för att ens ha chans att få ta del av technical preview men det är fortfarande inte en garanti. Jag har iallafall inte hört någon som fått börja köra verktyget(X) men det är fullt möjligt att de börjat rulla ut någon av delarna.

Copilot(föregående version) ska gå att köpa in av företag på säg 10 utvecklare och då få en sluten miljö där ingen data kan smita ut. Tyvärr är det inget vi har på företaget så det går helt bort för min del, det känns inte vidare bra att låte AI gå igenom hela kodbasen samtidigt som den riskerar läcka ut på ett eller annat vis.

Visa signatur

CPU : AMD Ryzen 5 5600X Moderkort : ASUS ROG Strix B550-F GAMING Grafikkort :EVGA GeForce GTX 1080 Ti FTW3 iCX Gaming HDMI 3xDP 11GBMinne : Corsair 16GB Chassi :Fractal Design Define 7 Compact Nätdel : Corsair RM750x Skärm #1 : Asus VG349Q Ultrawide Skärm #2 : Acer X34 Ultrawide

Permalänk
Medlem
Skrivet av Jimmy:

Vad är skillnaden mot stackoverflow som sågitt som alla utvecklare använder/använt?

Jag tror nog att de flesta utvecklare drar sig för att lägga upp viktig företagskod på ett öppet forum som stackoverflow. Men att låta ChatGPT reviewa/läsa samma kod kan nog en del tycka att det inte är så farligt och glömma bort att koden/chaten kan sparas på servern i 30 dagar som det stod i artikeln.

Permalänk
Medlem
Skrivet av Ortovox:

Jag tror nog att de flesta utvecklare drar sig för att lägga upp viktig företagskod på ett öppet forum som stackoverflow. Men att låta ChatGPT reviewa/läsa samma kod kan nog en del tycka att det inte är så farligt och glömma bort att koden/chaten kan sparas på servern i 30 dagar som det stod i artikeln.

Mycket möjligt och det finns säkert de som får för sig att tanka upp flera hela klasser från produkt miljön men då är det inte fel på verktyget utan på skiten bakom spakarna.

Om man nu inte förstår grundläggande datasäkerhet ens om man är utvecklare så kanske en lösning hade varit att man tydligare visar att postad data sparas i X antal dagar och ska inte betraktas som privat.

Oavsett, vi kommer inte lösa något här och det är troligt att även de som sköter sig kommer få känna på restriktionerna(i vanlig ordning). Jag är dock också övertygad om att även om det blir ett förbud så kommer en del fortsätta använda det.

Om man som företag inte ser några risker i sin verksamhet och kan tillåta Chat GPT så har man en hel del att vinna, ekonomiskt eller effektivitet, iallafall om de anställda vet hur man använder verktyget.

Visa signatur

CPU : AMD Ryzen 5 5600X Moderkort : ASUS ROG Strix B550-F GAMING Grafikkort :EVGA GeForce GTX 1080 Ti FTW3 iCX Gaming HDMI 3xDP 11GBMinne : Corsair 16GB Chassi :Fractal Design Define 7 Compact Nätdel : Corsair RM750x Skärm #1 : Asus VG349Q Ultrawide Skärm #2 : Acer X34 Ultrawide