Vetenskap iFokus

Vetenskap

Etiketter: uppfinningar-prylar-andra-skapelserai
Läst 39 ggr
Magi-cat
4

AI-jätte varnar för AI utom kontroll

AI-utvecklingen går onekligen snabbt. Håller människan på att tappa kontrollen? Finns det ens någon broms?

"Det amerikanska AI-företaget Anthropic uppmanar till en global paus av utvecklingen av AI.

Anledningen: Människan håller på att tappa kontrollen.

I en ny rapport som släpptes på torsdagen skriver företaget att det finns tecken som tyder på att människans roll minskar för varje steg i utvecklingsprocessen av den avancerade artificiella intelligensen."

Andra företag har protesterat och den amerikanske regeringen har sagt att rapporten är alltför "alarmistisk".

https://www.svt.se/nyheter/utrikes/ai-jatten-varnar-for-ai-utom-kontroll-manniskans-roll-minskar


"Freden måste komma först. Gör den inte det, min vän, kommer inget efter den."
💓 Sajtvärd på Fenomen, Hjärnan, Kulturtant, Oförklarade fenomen

Det amerikanska AI-företaget Anthropic uppmanar till en global paus av utvecklingen av AI. Anledningen: Människan håller på att tappa kontrollen.
johan
1
#1

Dario (VD:n) har satt i system att alltid skriva om hur farlig hans produkt är.

Han gjorde det när han jobbade på OpenAI och dom gjort GPT-2.
Sedan upprepar han samma sak för varje ny modell dom släpper.
Han har dessutom lobbat hårt för att reglera AI, vilket främst skulle gynna hans eget företag och krossa små uppstickare.

Varje gång hakar media på. Varje gång "ojojoj, den hääääääääär gången är det nog sant…."

Han har även i ett par års tid påstått att programmerare inte kommer behövas "om sex månader". Trots det har jag och mina kollegor hur mycket som helst att göra, trots att vi använder AI för att programmera.

Dario är "pojken som skrev att vargen kommer" personifierad.

Mvh // Johan

Magi-cat
0
#2

"Freden måste komma först. Gör den inte det, min vän, kommer inget efter den."
💓 Sajtvärd på Fenomen, Hjärnan, Kulturtant, Oförklarade fenomen

Anthropic vill ha en global paus i utvecklingen av AI. Det skulle vara svårt i praktiken, säger experten Linda Mannila.
johan
0
#3

Tänk att det är så mycket enklare att få världens uppmärksamhet genom att upprepa samma domedagsscenario gång på gång, fast man haft fel varje gång, än det är att få spridning på faktabaserade positiva framsteg som löser verkliga problem.

Mvh // Johan