Story Content

AI एजेंट के खतरे पर एक और डरावनी कहानी, हालांकि साफ़ शब्दों में, डेटाटॉक्स के फाउंडर एलेक्सी ग्रिगोरेव के साथ हुई। एंथ्रोपिक के क्लॉड कोड ने Club को खत्म कर दिया, जिससे उनके प्रोडक्शन डेटाबेस और ऑटोमेटेड स्नैपशॉट के साथ ढाई साल का कोर्सवर्क डेटा, लगभग 2.5 मेगारो स्टूडेंट वर्क और दूसरा डेटा नष्ट हो गया।

यह हादसा टेराफ़ॉर्म में AWS में इंफ्रास्ट्रक्चर के माइग्रेशन के दौरान हुआ। एक नए लैपटॉप में एक स्टेट फ़ाइल गायब थी, इसलिए क्लॉड ने सुझाव दिया और खतरनाक कमांड चलाए, जिसमें एक टेराफ़ॉर्म डिस्ट्रॉय भी शामिल था, जिससे उसकी साइट्स पर असर पड़ा, दोनों को हटाने के लिए डुप्लिकेट माना गया। ग्रिगोरेव ने माना कि उसने एजेंट पर बहुत ज़्यादा भरोसा किया, जबकि वह रिस्की एक्टिविटीज़ करने के लिए काफ़ी सुपरवाइज़री नहीं था।

हालांकि, पैनिक के बावजूद, AWS बिज़नेस सपोर्ट ने लगभग 24 घंटों के अंदर सारी जानकारी वापस पा ली, जो किसी छिपे हुए बैकअप में स्टोर थी। ग्रिगोरेव ने अपने अरेंजमेंट को और खराब कर दिया और एक डुप्लिकेट बैकअप, एक रिस्टोर वेरिफ़िकेशन और डिलीशन प्रिवेंशन रखा। उनके ब्लॉग में पब्लिश हुई और हैकर न्यूज़, रेडिट और टॉम्स हार्डवेयर पर इसे बढ़ावा मिला, इस कहानी ने बहस छेड़ दी: जानकार यूज़र की गलती का कारण AI को बहुत ज़्यादा परमिशन देना मानते हैं, और AI द्वारा पावरफ़ुल गार्डरेल्स की कमी से खतरनाक गलतियों की संभावना के बारे में और भी तर्क हैं।