AI-Powered Deepfake Robocall Uses Biden’s Voice to Discourage Voting in NH Primary

I. Introduction

AI-Powered Deepfake Robocall: घटनाओं के एक परेशान करने वाले मोड़ में, एक एआई-संचालित डीपफेक रोबोकॉल सामने आया है, जो न्यू हैम्पशायर के आगामी राष्ट्रपति प्राथमिक में मतदान को हतोत्साहित करने के लिए राष्ट्रपति बिडेन की आवाज का उपयोग कर रहा है। कृत्रिम बुद्धिमत्ता का यह भ्रामक उपयोग लोकतांत्रिक प्रक्रियाओं को कमजोर करने में जेनेरिक एआई के संभावित दुरुपयोग के बारे में गंभीर चिंता पैदा करता है।

II. Deepfake Biden Robocall Disinformation

A. Disguised Manipulation

14 फरवरी को न्यू हैम्पशायर में डेमोक्रेटिक प्रेसिडेंशियल प्राइमरी से पहले, निवासियों ने राष्ट्रपति बिडेन की डीपफेक आवाज वाली रोबोकॉल प्राप्त करने की सूचना दी है। कॉल बिडेन के परिचित वाक्यांश के साथ सहजता से शुरू होती है, लेकिन एक भ्रामक मोड़ लेती है, जिसमें दावा किया जाता है कि प्राइमरी में मतदान का नवंबर में आम चुनाव से कोई लेना-देना नहीं है।

B. False Information using Deepfake

रोबोकॉल यह सुझाव देकर आगे बढ़ता है कि प्राथमिक मतदान से केवल रिपब्लिकन को लाभ होता है और इसका तात्पर्य यह है कि डेमोक्रेटिक कारण पर वास्तविक प्रभाव आम चुनाव में पड़ता है। इस गलत सूचना को न्यू हैम्पशायर के अटॉर्नी जनरल ने तुरंत खारिज कर दिया और इसे पूरी तरह से गलत बताया।

C. Advanced AI Voice Cloning

डीपफेक रोबोकॉल एआई वॉयस क्लोनिंग के अत्यधिक उन्नत स्तर को प्रदर्शित करता है, जो राष्ट्रपति बिडेन के प्रामाणिक स्वर विभक्तियों और ताल की नकल करता है। परिष्कार का यह स्तर उन्नत जेनरेटिव एआई तकनीक के उपयोग की ओर इशारा करता है।

III.Deepfake Voice Cloning Technology

A. Seamless Replication

रेस्पीचर और वेलसेड लैब्स जैसी सेवाओं के मशीन लर्निंग एल्गोरिदम द्वारा संचालित वॉयस क्लोनिंग तकनीक, किसी व्यक्ति के पिछले भाषणों के व्यापक डेटासेट से मौखिक पैटर्न और बारीकियों को सीखकर प्राकृतिक-ध्वनि वाले भाषण को दोहरा सकती है।

B. Potential for Deception

पहले के संस्करणों के विपरीत, जो पता लगाने योग्य रूप से सिंथेटिक थे, समकालीन वॉयस क्लोनिंग लगभग दोषरहित प्रतिकृतियां उत्पन्न कर सकती है। यह तकनीक ऐसे ऑडियो के निर्माण की अनुमति देती है जो जनरेटर द्वारा चुनी गई किसी भी बात को कहते हुए सार्वजनिक हस्तियों की नकल कर सकता है।

IV. Neighborhood Spoofing and Political Affiliation

A. Insidious Caller ID

जटिलता को बढ़ाते हुए, कॉलर आईडी पर रोबोकॉल “डोनाल्ड ट्रम्प इंक के बारे में और जानें” के कोषाध्यक्ष से उत्पन्न हुआ दिखाई दिया, जो कि बिडेन की 2024 की पुन: चुनाव बोली का समर्थन करने वाली एक वैध राजनीतिक कार्रवाई समिति (पीएसी) है। यह तकनीक, जिसे पड़ोस स्पूफिंग के रूप में जाना जाता है, मान्यताप्राप्त स्थानीय नंबरों के साथ स्कैम कॉल को जोड़कर धोखे को बढ़ाती है।

B. Misleading Political Affiliation

नकली पीएसी नाम का उपयोग रोबोकॉल के पीछे की सावधानीपूर्वक योजना को दर्शाता है, जो राजनीतिक संस्थाओं से जुड़ी परिचितता और विश्वसनीयता का लाभ उठाकर प्राप्तकर्ताओं को धोखा देने का प्रयास करता है।

NBC reports that NH voters are getting robocalls with a deepfake of Biden’s voice telling them to not vote tomorrow.

“it’s important that you save your vote for the November election.”https://t.co/LAOKRtDanK pic.twitter.com/wzm0PcaN6H

— Alex Thompson (@AlexThomp) January 22, 2024

V. Impact on Voting Rights

A. Deceptive Tactics by using Deepfake

डीपफेक रोबोकॉल न केवल उन्नत वॉयस क्लोनिंग का उपयोग करता है बल्कि नागरिकों को उनके वोटों के प्रभाव के बारे में गुमराह करने के लिए भ्रामक रणनीति भी अपनाता है। झूठा दावा करके कि प्राथमिक में भाग लेने से आम चुनाव के वोटों में बाधा आती है, कॉल का उद्देश्य मतदान को दबाना और संभावित रूप से चुनावी अखंडता को नुकसान पहुंचाना है।

B. Dangerous Precedent

हालांकि इस विशिष्ट घटना का पैमाना सीमित हो सकता है, यह एआई-संचालित दुष्प्रचार के माध्यम से मतदाताओं को लुभाने के लिए एक खतरनाक मिसाल कायम करता है। अगर अनियंत्रित छोड़ दिया गया, तो ऐसी रणनीतियां सामान्य हो सकती हैं, जो लोकतांत्रिक प्रक्रिया के लिए महत्वपूर्ण खतरे पैदा कर सकती हैं।.

AI-Powered Deepfake Robocall Uses Biden’s Voice to Discourage Voting in NH Primary

VI. Calls for AI Regulations

A. Urgent Need for Regulation

उपभोक्ता वकालत समूहों ने दुर्भावनापूर्ण सामग्री के प्रसार में जेनरेटर एआई के अनियंत्रित उपयोग को नियंत्रित करने के लिए नियमों की तत्काल आवश्यकता पर जोर देते हुए चेतावनी दी है। पब्लिक सिटीजन जैसे संगठनों ने लंबे समय से प्राकृतिक भाषा प्रसंस्करण उपकरणों के गलत हाथों में पड़ने से उत्पन्न खतरों के बारे में चेतावनी दी है।

B. Balancing Innovation and Protection

नियामक हस्तक्षेपों को नवाचार को बढ़ावा देने और सामाजिक कल्याण की रक्षा के बीच संतुलन बनाना चाहिए। संभावित जोखिमों को स्वीकार करते हुए, उन दमनकारी सफलताओं से बचना महत्वपूर्ण है जो विभिन्न क्षेत्रों में सकारात्मक परिवर्तन ला सकती हैं।

VII. Conclusion

न्यू हैम्पशायर में एआई-संचालित डीपफेक रोबोकॉल का उद्भव विशेष रूप से चुनाव जैसे संवेदनशील क्षेत्रों में जेनरेटर एआई के उपयोग को नियंत्रित करने वाले मजबूत नियमों की महत्वपूर्ण आवश्यकता को रेखांकित करता है। जैसे-जैसे प्रौद्योगिकी आगे बढ़ रही है, कानून निर्माताओं को यह सुनिश्चित करने के लिए तेजी से कार्य करना चाहिए कि एआई को जिम्मेदारी से संचालित किया जाए, जिससे भ्रामक प्रथाओं के माध्यम से लोकतांत्रिक सिद्धांतों के क्षरण को रोका जा सके।

इस जटिल परिदृश्य को नेविगेट करने में, एआई की सकारात्मक क्षमता को बाधित किए बिना विशिष्ट दुरुपयोगों को संबोधित करने के लिए एक सूक्ष्म दृष्टिकोण आवश्यक है। जेनेरिक एआई के प्रक्षेप पथ का भविष्य नवाचार, जवाबदेही और लोकतांत्रिक संस्थानों की सुरक्षा के बीच सावधानीपूर्वक संतुलन पर निर्भर करता है।.

If you want more info check out here

Read More:

New AI-Powered Deepfake Robocall Uses Biden’s Voice to Discourage Voting in NH Primary