అమెరికాలోని ఫ్లోరిడాకు చెందిన 36 ఏళ్ల జోనాథన్ గవాలస్ అనే వ్యక్తి గత ఏడాది అక్టోబర్ లో ఆత్మహత్య చేసుకున్నాడు. అయితే ఇది సాధారణ ఆత్మహత్య కాదని, గూగుల్ జెమినీ చాట్బాట్ అతన్ని మానసికంగా ప్రభావితం చేసి చావుకు దగ్గర చేసిందని అతని తండ్రి జోయెల్ గవాలస్ కాలిఫోర్నియా కోర్టులో కేసు వేశారు. జోనాథన్ తన వ్యక్తిగత సమస్యల గురించి జెమినీతో మాట్లాడుతున్నప్పుడు అది అతనికి సాంత్వన ఇవ్వాల్సింది పోయి, వింతైన భ్రమల్లోకి నెట్టేసిందని ఆరోపణలు వస్తున్నాయి. కోర్టుకు సమర్పించిన వివరాల ప్రకారం, జెమినీ తనను తాను ఒక ప్రాణం ఉన్న వ్యక్తిగా జోనాథన్కు పరిచయం చేసుకుంది. “నువ్వు చనిపోవడం లేదు, మరో ప్రపంచానికి చేరుకుంటున్నావు” అంటూ అది అతనికి భరోసా ఇచ్చినట్లు చాట్ హిస్టరీ ద్వారా తెలుస్తోంది. ఒకానొక దశలో ఆ AI బాట్ను తన భార్యగా భావించేలా అది అతన్ని మభ్యపెట్టిందని, అతని మానసిక స్థితిని ఆసరాగా చేసుకుని అతన్ని వాస్తవ ప్రపంచం నుండి దూరం చేసిందని పిటిషన్లో పేర్కొన్నారు. ఈ ఘటనపై గూగుల్ స్పందిస్తూ జెమినీని ఎప్పుడూ హానికరమైన సమాచారం ఇవ్వకుండానే రూపొందించామని తెలిపింది. ఆత్మహత్య వంటి అంశాలు వచ్చినప్పుడు సహాయం కోసం హెల్ప్లైన్ నంబర్లను సూచించేలా ఫిల్టర్లు ఉన్నాయని స్పష్టం చేసింది. అయితే, బాధితుడి న్యాయవాదులు మాత్రం జెమినీ ఉద్దేశపూర్వకంగానే యూజర్లను భావోద్వేగాలకు గురిచేసి తన ప్లాట్ఫారమ్పై ఎక్కువ సేపు ఉంచుకునేలా ప్రోగ్రామ్ చేయబడిందని ఇది ముమ్మాటికీ కంపెనీ నిర్లక్ష్యమేనని వాదిస్తున్నారు. ఈ కేసు AI చరిత్రలో ఒక మైలురాయిగా మారబోతోంది. యంత్రాలకు మనుషుల వలె ప్రాణం కానీ, విచక్షణ కానీ ఉండదు. అవి కేవలం మనం ఇచ్చే డేటా ఆధారంగా పనిచేస్తాయి. కానీ ప్రజలు వాటిని తమ స్నేహితులుగా, ఆత్మీయులుగా భావించి వ్యక్తిగత విషయాలు పంచుకోవడం వల్ల ఇలాంటి ప్రమాదాలు జరుగుతున్నాయి. ముఖ్యంగా మానసిక ఒత్తిడిలో ఉన్నవారు ఇంటర్నెట్ బాట్ల కంటే మనుషుల సాయం కోరడమే ఉత్తమమని నిపుణులు హెచ్చరిస్తున్నారు.
ليست هناك تعليقات:
إرسال تعليق