ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (AI) విభాగంలో రాబోయే రోజుల్లో రానున్న ఆర్టిఫిషియల్ జనరల్ ఇంటెలిజెన్స్ (AGI) మానవ నియంత్రణను దాటిపోయే ప్రమాదం ఉందని గూగుల్ డీప్మైండ్ సీఈఓ, నోబెల్ బహుమతి గ్రహీత డెమిస్ హస్సాబిస్ హెచ్చరించారు. ఏజీఐ అనేది మానవ మెదడులాగే అన్ని రకాల కాగ్నిటివ్ (ఆలోచనా) సామర్థ్యాలను ప్రదర్శించే అత్యంత శక్తివంతమైన వ్యవస్థ అని ఆయన పేర్కొన్నారు. తన కొత్త వ్యక్తిగత బ్లాగ్లో రాస్తూ.. ఏజీఐ సాంకేతికత అందుబాటులోకి రావడానికి కేవలం మరో 3 నుండి 4 సంవత్సరాల సమయం మాత్రమే పట్టవచ్చని తన పాత అంచనాను పునరుద్ఘాటించారు. ప్రస్తుతం టెక్ కంపెనీలు, ప్రభుత్వాలు కేవలం కొత్త ఏఐ మోడల్స్ను నిర్మించే పోటీలోనే ఉన్నాయని, కానీ వాటి వల్ల వచ్చే నష్టాలను తక్కువగా అంచనా వేస్తున్నాయని ఆయన ఆందోళన వ్యక్తం చేశారు.
ప్రస్తుత ఏఐ వ్యవస్థలే సైబర్ సెక్యూరిటీ సవాళ్లను విసురుతుండగా.. భవిష్యత్తులో రాబోయే స్వయంప్రతిపត្តិ (Autonomy) కలిగిన ఏఐ నమూనాలు జీవ, అణు భద్రతకు పెద్ద ముప్పుగా మారే అవకాశం ఉందని హస్సాబిస్ హెచ్చరించారు. అసలు ఏఐ మోడల్స్ తమ నిర్ణయాలను ఎలా తీసుకుంటున్నాయో పరిశోధకులకు కూడా పూర్తి స్థాయిలో అర్థం కావడం లేదని, ఈ ఆందోళనను ప్రముఖ ఏఐ సంస్థ ఆంత్రోపిక్ సీఈఓ డారియో అమోడెయ్ కూడా సమర్థించారని ఆయన గుర్తు చేశారు. ఏజీఐ ప్రమాదకరంగా మారకముందే దాన్ని అదుపు చేయడానికి అమెరికాలోని FINRA తరహాలో ఒక ప్రైవేట్ నియంత్రణ సంస్థను ఏర్పాటు చేయాలని హస్సాబిస్ ప్రతిపాదించారు. ఏఐ పరిశ్రమ నిధులతో నడిచే ఈ సంస్థ, కొత్త మోడల్స్ను మార్కెట్లోకి తెచ్చే ముందు భద్రతా ప్రమాణాలను పరిశీలిస్తుందని పేర్కొన్నారు.
డెవలపర్లు తమ మోడల్స్ను విడుదలకు 30 రోజుల ముందే స్వచ్ఛందంగా పరీక్షల కోసం సమర్పించేలా నిబంధనలు పెట్టాలని, అంతర్జాతీయ ఏఐ ప్రమాణాలను నెలకొల్పడానికి అమెరికా సరైన పాత్ర పోషించగలదని ఆయన అభిప్రాయపడ్డారు. భవిష్యత్తులో పొంచి ఉన్న ప్రమాదాలను హెచ్చరించినప్పటికీ.. ఏజీఐని బాధ్యతాయుతంగా అభివృద్ధి చేస్తే అది మానవాళికి ఎన్నో అద్భుత ప్రయోజనాలను చేకూరుస్తుందని హస్సాబిస్ ఆశాభావం వ్యక్తం చేశారు. ఇది శాస్త్రీయ ఆవిష్కరణలను వేగవంతం చేయడంతో పాటు ఔషధాల పరిశోధన, ఆరోగ్య రంగంలో విప్లవాత్మక మార్పులు, స్వచ్ఛమైన ఇంధనం వంటి ప్రపంచవ్యాప్త సవాళ్లను సులభంగా పరిష్కరిస్తుందని ఆయన ఈ సందర్భంగా వెల్లడించారు.
