గ్రోక్ ఏఐ నకిలీ, అశ్లీల డీప్ఫేక్ చిత్రాలను సృష్టించిందని వచ్చిన ఆరోపణల నేపథ్యంలో ఇండోనేషియా, మలేషియా దేశాలు దీనిని తాత్కాలికంగా నిషేధించాయి. కొందరు వ్యక్తులు గ్రోక్ ఏఐలో మహిళలు, పిల్లలను లక్ష్యంగా చేసుకొని నకిలీ, అశ్లీల డీప్ఫేక్ చిత్రాలను సృష్టిస్తున్న క్రమంలో ఈ రెండు దేశాలు గ్రోక్ ఏఐపై కఠినమైన చర్యలు తీసుకున్నాయి. గ్రోక్ టెక్నాలజీ డిజిటల్ ప్రపంచంలో కొత్త ముప్పుగా మారిందని ఇండోనేషియా, మలేషియా దేశాలు చెబుతున్నాయి. గ్రోక్ ద్వారా అశ్లీల, అభ్యంతరకరమైన కంటెంట్ వ్యాప్తి చెందడంపై ఇటీవల భారత ప్రభుత్వం కూడా తీవ్ర ఆందోళన వ్యక్తం చేసిన సంగతి తెలిసిందే. నకిలీ, అశ్లీల కంటెంట్ను సృష్టించడానికి గ్రోక్ను దుర్వినియోగం చేస్తున్నారని మలేషియా ఎంసీఎంసీ పేర్కొంది. గ్రోక్ ద్వారా సృష్టిస్తున్న ఈ కంటెంట్ ప్రజల అనుమతి లేకుండా సృష్టించబడుతోంది. ఇది వారి గౌరవం, భద్రతకు ముప్పు కలిగిస్తుంది. ఇటువంటి ఏఐ సాంకేతికత సమాజానికి తీవ్రమైన ప్రమాదాన్ని కలిగిస్తుందని ప్రభుత్వాలు విశ్వసిస్తున్నాయి. ఇదే టైంలో ప్రభావవంతమైన సాంకేతిక భద్రతా చర్యలను అమలు చేయాలని డిమాండ్ చేస్తూ జనవరి 3, 8 తేదీల్లో X, xAI లకు నోటీసులు పంపినట్లు మలేషియా ప్రభుత్వం పేర్కొంది. అయితే కంపెనీలు యూజర్స్ రిపోర్టింగ్ సిస్టమ్పై మాత్రమే దృష్టి సారించాయి. అంతే కానీ నిజమైన సమస్యకు ఎటువంటి నిర్దిష్ట పరిష్కారాలను అందించలేదని ప్రభుత్వం తెలిపింది. దీంతో గ్రోక్ను తమ దేశంలో తాత్కాలికంగా నిషేధించినట్లు తెలిపింది. గ్రోక్ ఉపయోగించి సృష్టిస్తున్న నకిలీ, అశ్లీల కంటెంట్ మహిళలు, పిల్లలకు తీవ్ర స్థాయిలో ముప్పు కలిగిస్తుందని ఇండోనేషియా కమ్యూనికేషన్స్, డిజిటల్ మంత్రి ముత్యా హఫీద్ పేర్కొన్నారు. ఇది మానవ హక్కులు, డిజిటల్ భద్రత యొక్క తీవ్రమైన ఉల్లంఘనగా ఆమె అభివర్ణించారు. ఇదే టైంలో గ్రోక్ ద్వారా ఇండోనేషియా పౌరుల గౌరవం, భద్రతకు ఎటువంటి హాని జరగదని ప్రభుత్వం స్పష్టం చేసింది. అలాగే ఇండోనేషియాలో గ్రోక్ను తాత్కాలికంగా నిషేధించి, ఈ ఫీచర్ గురించి X ని వెంటనే వివరణ కోరినట్లు తెలిపింది. నిజానికి గ్రోక్ వంటి ఏఐ సాధనాల ద్వారా సృష్టించిన నకిలీ ఫోటోలు, వీడియోలు వాస్తవికంగానే కనిపిస్తాయి. వీటి ద్వారా ప్రజల గుర్తింపులు, ప్రతిష్టలను దెబ్బతీసే అవకాశం ఉంది. అందుకే దీనిపై భారతదేశం, యూరోపియన్ యూనియన్తో సహా అనేక దేశాలు ఇప్పటికే ఆందోళన వ్యక్తం చేశాయి. సాంకేతిక పరిజ్ఞానం దుర్వినియోగం కాకుండా నిరోధించడానికి ఏఐ కంపెనీలు కఠినమైన భద్రతా రక్షణలను అమలు చేయాలని ప్రభుత్వాలు కోరుతున్నాయి.
