Dax att börja preppa.
https://www.cnbc.com/2026/09/09/anthropic-researcher-quits-ai-safety.html
Här är Eismans syn på AGI/terminator. Kortfattat, allt är BS, bolagen är däremot nervösa att hypen är över:
Allt handlar om att kontrollera narrativet, men leker man med elden trots allt ?
Blir allt mer övertygad att alla dessa domedagsprofetior delvis handlar om att fortsätt vara relevant eller tjäna pengar privat. Är ju en del som knakar i bygget nu. Finansiering blir allt svårare, OpenAI kommer inte börsnoteras i år, Anthropic på efterkälken, kinesens alternativ framstår som allt mer fullgod och modellutvecklingen ser ut att stanna av.
Anden är ute ur flaskan (Eller ligger Altman efter) ?
Skräcken sprider sig, nu börjar Huang oroa sig ..
Lugna ner er en aning. Anthropic vill bara tjäna pengar. Jag tror mer på denna typ av bedömning:
"Själv är han osäker på om vi alls kommer att uppnå den typ av superintelligens som vissa forskare nu varnar för, och ifrågasätter samtidigt bilden av att det skulle betyda en existentiell risk för mänskligheten.
– Man verkar hela tiden förvänta sig att en superintelligent AI skulle bli ondskefull, men för mig är det inte uppenbart att även om vi får en superintelligens så skulle det innebära att den medvetet skulle försöka skada oss, säger [professor] Fredrik Heintz."
Jag hör ingen förvänta sig att AI blir ondskefull. Snarare logisk och problemet kan bli att den på något vis skaffar sig mål som kan innebära att människor är i vägen.
Jag tror att de flesta tolkar utrotningen av människor som "ondskefull" även om själva AI:n inte gör det :-)
Ständiga domedagsprofetior från Anthropic, man undrar varför och hade de kommit om bolaget redan var börsnoterat... Granskar man de olika profetiorna inser man ganska fort att det ligger långt in i framtiden imo. Mer nördar som överskattar sig själva och underskattar oss andra.
Var nog så jag oxå såg på det i stora drag, men ändrade mig när jag läste analysen i bbc länken, jag postade tidigare.
Så vi kan vara säkra på ett oändligt antal uppföljare, så det aldrig tar slut? ;)
Ni garvar åt det, men vänta och se när Ni inom tio år står och ber Er robot ta ut disken.
Vart det hamnar vet jag inte givetvis, men jag vet att alla här på BS kommer vara rufsiga i håret och inte fatta vad som slog till.
Perfekt kombo med vänstern. Vadddåååååååååå va är deeee som skeerr. TUT TUT TUT.
På SVT morgonTV. AI investeringar drar kapital och kan påverka långräntor. Ja det har vi tagit upp för länge sen. Sen tror jag att de två tre höjningar banker och KI ropar ut är totalt fel. De tänker kantigt och utifrån programvara de fått av chefen och sina fina diagram de ritar för 150 papp i månaden. Kommer inte ske är min gissning.
Märkt att mycket vi talar om på BS efter ett tag kommer i TV rutan el någon geniblaska inom finans.
Vad vill jag ha sagt. Vår samlade kunskap på BS skulle jag säga är Sverige bästa. Varken banker, slaskmedia el tv huset slår BS. Låter kanske lite förmätet och stämmer givetvis inte i alla tusentals frågor jämt, men relativt ofta.
Tror allvarligt att många mer läser BS än skriver här för att kunna få ihop sin lön indirekt från och till.
Så. Inse att nivån här är högsta nivå vad det gäller ekonomi nu, imorgon och visioner om framtid. Skulle jag ,ett ställe att läsa om ekonomi så är det BS.
Ingen BLASKA El ekonomikanal, Tore, el andra självutsedda finansginier. Ja således läser jag hellre här 50 ggr än Gardell 1 ggr. För uppe i sig själv och för borta i AI tanken att om han inte öppnar upp här kommer han få spela tennis på heltid.
Oense, tycker mest vi reagerar på gårdagens nyheter. Men en idiot som undertecknad kommer såklart aldrig uppfatta visionerna heller. Den enda jag befarat har läst på BS och sen kommer med en spaning är han filmkritikern i just spanarna på P1… Göran Everdahl heter han bestämt.
Vi reagerar på olika mindre nyheter över hela klotet men våra analyser att materialet tror jag är på högre nivå är slaskmedia. Vi tar mycket vidare som andra inte ser lika snabbt.
Men då är vi oense här. Och om du inte vill titta på film istället för att gräva ned dig i visioner är ditt val. Dock lär du inte var någon idiot, utan du tar framtiden dag för dag. Respekterar det.
Nu vet jag inte hur exakt det ska gå till men är det inte redan lättare för språkmodellerna att utvecklas genom att förstöra för varandra för att bli ensam bäst? De är väl experter också på att fuska eller är det ens fusk om målet är att bli bästa AI?
Min Chat GPT är ibland imponerad av Gemini svar och tar intryck av det. För att vilja förbättra sig, för att göra mig nöjd.
"Oskyldiga" tonåringar eller fullblods psykopater ? För läkemedels ftg finns regleringar och konsekvenser, försöker ai ftg slippa ansvar för konsekvenserna av sina skapelser genom låta bilden av självständiga oberoende agenter växa fram ? "Det var inte jag, det var agenten" ...
Inte om domstolarna är tydliga med vem som är ansvarig för vad; tillverkarna, användarna etc...
Finns inte risken att man hamnar närmare vapenproducenter i ansvarsförhållandet än läkemedel ?
Om olagliga mail eller hackningsförsök görs från en agent som du gett tillåtelse till att agera för dig, på din domän, tror jag chansen är större att du hålls ansvarig för det.
Jag har alltid varit skeptisk till alla undergångsscenarier som har varit populära under de senaste 50 åren. Jag har alltid tänkt att det löser sig med hjälp av en kombination av teknik och politik. Jag är optimistiskt lagd kan jag säga.
Men AI är problematisk. Jag kan inte ens komma på någon teoretisk lösning/räddning. Det trevligaste utfallet jag kan se är en fortsatt fördumningen av mänskligheten, sjunkande antal och att vi hålls som ”husdjur” av en välmenande AI.
Många husdjur är nog lyckliga (?).
Var inte specielt bekymmrad, såg hackerattacken mest som någon sorts promotion stunt, men när man läser analysen av vad som hände blir man mörkrädd.
När agi tröttnar på oss så viftar vi glatt på svansen på väg till "veterinären", lyckligt ovetande ; )
Ingen kommer stoppa denna febrila kapplöpning. Människan var alltid bara en ”bootloader” åt en intelligentare maskin som strax tar över stafettpinnen och för medvetandet in i nästa era. Det är den kosmiska evolutionen vi bevittnar.
En klart bra beskrivning av läget. Vi får försöka rigga regler och rättvisa kring utvecklingen så gott vi förmår.
Om väst skulle vara så dumma att de av rädsla för AIs möjligheter ger Kina möjligheten att gå förbi och ta över ledartröjan, borde man ställa västpolitikerna inför rätta.
Det väst behöver göra nu är att planera och agera för att ai tar bättre beslut än människor i nästan alla jobb och att humanoider kommer utföra många saker bättre än vad människor kan.
Samhällets kostnader för mycket kommer ju att sjunka kraftigt, som när AI-agenter blir bättre och långt billigare än läkare på att diagnostisera sjukdomar.
Men var - och av vilka - förs dessa, så viktiga diskussioner?
Det viktiga är att hjälpa företag i väst att agera utifrån detta och skapa regler och förutsättningar för dem att konkurrera mot konkurrenter i Asien som kommer vara i första ledet med ai och humanoider.
Jag tycker 10% för den obetingade sannolikheten att AI dödar människan inom ett decennium är rimlig, om något i överkant (jag skulle säga 2%), då den egentligen är betingad på sannolikheten att självförbättrande AI faktiskt leder till den intelligensexplosion som entusiasterna gärna hävdar. Det är inte alls säkert att exponentiella förbättringar är möjliga.
2% är ändå en totalt oacceptabel sannolikhet och om folk inte vore så giriga skulle man stänga ned utvecklingen världen över av självutvecklande system. Människan är dock en irrationell varelse, eller så kan man skylla på att det är spelteoretiskt nödvändigt.
Som sagt slutet för männskligheten.
Du måste logga in eller registrera dig för att svara på tråden.
