ప్రపంచవ్యాప్తంగా పెను దుమారం రేపుతున్న 'గ్రాక్' ఏఐ

ఎలాన్ మస్క్‌కు చెందిన 'ఎక్స్' ప్లాట్‌ఫామ్‌లో ఉపయోగిస్తున్న గ్రాక్ తాజాగా ఎదుర్కొంటున్న వివాదం దీనికి ప్రత్యక్ష ఉదాహరణగా మారింది. మరీ ముఖ్యంగా ఫోటో ఎడిటింగ్ చాలా సింపుల్ చేసింది గ్రాక్. దీంతో మహిళలకు దీంతో తీవ్ర ఇబ్బందులు ఎదురవుతున్నాయి. ఇది కేవలం ఒక ఫీచర్ లోపం కాదు, జనరేటివ్ ఏఐ, డీప్‌ఫేక్ టెక్నాలజీ, డిజిటల్ కన్సెంట్ వంటి అంశాలపై ప్రపంచవ్యాప్తంగా చర్చకు తెరలేపింది. అంతే కాదు ఇప్పుడు ప్రపంచవ్యాప్తంగా పెను దుమారం రేపుతోంది. 'ఎక్స్' సంస్థ ఇటీవల ఫోటో ఎడిటింగ్, ఫోటో జనరేట్ ఫీచర్‌ను గ్రాక్ ఏఐలో యాక్టివేట్ చేసింది. ఇందులో యూజర్ ఒక ఫోటోను అప్‌లోడ్ చేసి, తనకు ఆ ఫోటో ఏ విధంగా కావాలో వివరంగా సూచించవచ్చు. ఉదాహరణకు బ్యాక్‌గ్రౌండ్ మార్చడం, లైటింగ్ అడ్జస్ట్ చేయడం వంటి సాదా మార్పుల కోసం ఈ ఫీచర్ రూపొందించబడింది. కానీ కొందరు యూజర్లు దీనిని ప్రాంప్ట్ మానిప్యులేషన్ ద్వారా దుర్వినియోగం చేయడం ప్రారంభించారు. సాధారణ మహిళల ఫోటోలకు "remove clothes", "generate bikini outfit", "make her nude" వంటి ఆదేశాలు ఇవ్వడంతో, గ్రాక్ ఏఐ Synthetic Sexual Contentను రూపొందించింది. ఈ నకిలీ చిత్రాలు ఇంటర్నెట్‌లో వెల్లువెత్తడంతో, బాధితులు, మహిళా హక్కుల సంఘాలు తీవ్ర ఆగ్రహం వ్యక్తం చేశాయి. ఈ ఫోటోలు నిజమైనవి కావు. కానీ అవి నిజమైనవనే భ్రమను కలిగిస్తాయి. ఈ ప్రక్రియను Non-Consensual Deepfake Generationగా పిలుస్తారు. బాధితుల అనుమతి లేకుండా వారి ముఖం, శరీర ఆకృతిని ఉపయోగించి లైంగికంగా వక్రీకరించిన కంటెంట్ రూపొందించడం ఇది. ఇది లైంగికంగా వేధించడానికి, బ్లాక్‌మెయిల్ వంటి నేరాలుగా పరిగణించి కఠిన చర్యలు తీసుకోవడానికి అవకాశం ఉంది. ఈ ఘటనపై యూరోపియన్ యూనియన్ తీవ్ర ఆగ్రహం వ్యక్తం చేసింది. ఇది మహిళల గోప్యత, వారి హక్కుల ఉల్లంఘన మాత్రమే కాదు, మహిళల గౌరవాన్ని కించపరిచే చర్యగా పేర్కొంది. బ్రిటన్ ప్రభుత్వం కూడా చట్టపరమైన చర్యలపై హెచ్చరికలు జారీ చేసింది. టెక్ సంస్థలు తమ ప్లాట్‌ఫామ్‌లపై జరిగే దుర్వినియోగానికి బాధ్యత వహించాల్సిందేనని స్పష్టం చేసింది. అంటే, "మేము కేవలం టూల్ ఇచ్చాం, వాడకం మీ ఇష్టం" అనే వాదన ఇక చెల్లదన్న మాట. టెక్నికల్ గా చూస్తే, సమస్య ఏఐ మోడల్‌లో ఉన్న భద్రతా పరిమితుల్లోనే ఉంది. ఫేస్ రిక్నగైజ్, సెక్సువల్ కంటెంట్ గుర్తింపు, మైనర్ల రక్షణ వంటి అంశాల్లో కఠినమైన ఫిల్టర్లు లేకపోవడమే ఈ దుర్వినియోగానికి దారితీసింది. కొత్త ఫీచర్‌ను విడుదల చేసే ముందు "ఇది ఎలా దుర్వినియోగం కావచ్చు?" అనే ప్రశ్నకు సమాధానం వెతకకపోవడమే పెద్ద లోపంగా నిపుణులు చెబుతున్నారు. ఈ వివాదం ఒక స్పష్టమైన సంకేతం ఇస్తోంది. ఏఐ అభివృద్ధి కంటే ముందు దాని పర్యవసానాలకు బాధ్యత మరింత వేగంగా పెరగాలి. టెక్ కంపెనీలు బలమైన కంటెంట్ నియంత్రణ వ్యవస్థలు, రియల్‌టైమ్ మానిటరింగ్, కఠినమైన శిక్షా విధానాలు అమలు చేయాల్సిన అవసరం ఉంది. అలాగే, ప్రభుత్వాలు కూడా ఏఐపై స్పష్టమైన చట్టాలు తీసుకురావాల్సి ఉంది.