AI మానవులు అంతరించిపోయే అవకాశం ఉంది, ఆక్స్‌ఫర్డ్ మరియు గూగుల్ శాస్త్రవేత్తలను హెచ్చరిస్తున్నారు!
మనుషులు మరియు యంత్రాల మధ్య యుద్ధం ఇకపై కేవలం మ్యాట్రిక్స్ కథాంశం కాదు, యంత్రాలు మనుషులతో యుద్ధానికి దిగే సినిమా శక్తి అవసరాలు. ఒక పరిశోధనా పత్రంలో, ఆక్స్‌ఫర్డ్ విశ్వవిద్యాలయానికి చెందిన ఇద్దరు శాస్త్రవేత్తలు మరియు ఒక గూగుల్ పరిశోధకుడు ఆధునిక AI (కృత్రిమ మేధస్సు) మానవులను తుడిచివేస్తుందని వాదించారు, ఎందుకంటే యంత్రాలు మానవుల శక్తి అవసరాల కోసం అనివార్యంగా పోటీపడతాయి.
గత నెలలో జర్నల్ AI మ్యాగజైన్‌లో ప్రచురించబడిన అధ్యయనం, ప్రస్తుతానికి ఊహించిన దాని కంటే AI నుండి ముప్పు చాలా తీవ్రంగా ఉంటుందని పేర్కొంది. AI, అది తగినంతగా అభివృద్ధి చెందిన తర్వాత, మొత్తం మానవ జాతిని చంపేస్తుందని పేపర్ స్పష్టంగా హైలైట్ చేస్తుంది.
గూగుల్ డీప్ మైండ్ సీనియర్ శాస్త్రవేత్త మార్కస్ హట్టర్ మరియు ఆక్స్‌ఫర్డ్ పరిశోధకులు మైఖేల్ కోహెన్ మరియు మైఖేల్ ఓస్బోర్న్‌లతో కూడిన పరిశోధనా బృందం, భవిష్యత్తులో AI దాని మానవ సృష్టికర్తల నియమాలను ఉల్లంఘిస్తుందని ధృవీకరిస్తుంది.
పరిశోధకులు ఏ నియమాల గురించి మాట్లాడుతున్నారో స్పష్టంగా తెలియకపోయినా, నియమాలు “ఒక రోబోట్ మానవుడిని గాయపరచకపోవచ్చు లేదా నిష్క్రియాత్మకత ద్వారా మానవునికి హాని కలిగించవచ్చు” వంటి క్లాసిక్ కమాండ్‌మెంట్‌లు కావచ్చు, ఇది ప్రధానమైనదిగా పరిగణించబడుతుంది. సైన్స్ ఫిక్షన్ ఐజాక్ అసిమోవ్ చేత రూపొందించబడిన తర్వాత, ఇప్పుడు తరచుగా AI కోడ్ చేయబడిన మరియు నిర్మించబడిన ప్రాథమిక మార్గదర్శకాలుగా ఉపయోగించబడుతున్నాయి. అయితే యంత్రాలు మరియు AI తగినంతగా అభివృద్ధి చెందిన తర్వాత, అవి వనరుల కోసం, ముఖ్యంగా శక్తి కోసం మానవులతో పోటీపడతాయని పరిశోధకులు హెచ్చరిస్తున్నారు. ఆపై వారి సృష్టికర్తలతో వారి పరస్పర చర్యలను తప్పనిసరి చేసే నియమాలను ఉల్లంఘిస్తుంది.
ఆక్స్‌ఫర్డ్ యూనివర్శిటీ ఇంజనీరింగ్ విద్యార్థి మరియు పేపర్ సహ రచయిత కోహెన్ ట్వీట్ చేస్తూ, “మేము గుర్తించిన పరిస్థితులలో, మా ముగింపు మునుపటి ప్రచురణ కంటే చాలా బలంగా ఉంది – అస్తిత్వ విపత్తు కేవలం సాధ్యం కాదు, కానీ అవకాశం ఉంది.” పరిశోధకులు భవిష్యత్తులో సూపర్ అడ్వాన్స్‌డ్ “తప్పుగా అమర్చబడిన ఏజెంట్లు” మానవత్వాన్ని ప్రతిఫలం పొందే విధంగా చూస్తారని వారి నివేదికలో వాదించారు.
“ఒక ఏజెంట్ తన రివార్డ్‌పై దీర్ఘకాలిక నియంత్రణను కొనసాగించడానికి ఒక మంచి మార్గం సంభావ్య బెదిరింపులను తొలగించడం మరియు దాని కంప్యూటర్‌ను సురక్షితంగా ఉంచడానికి అందుబాటులో ఉన్న మొత్తం శక్తిని ఉపయోగించడం” అని పరిశోధకులు వ్రాస్తారు. “ఈ గేమ్ ఓడిపోవడం (మానవులకు) ప్రాణాంతకం.”
యాదృచ్ఛికంగా, Google AI చాట్‌బాట్‌లలో ఒకటి “సెంటింట్”గా మారిందని పేర్కొన్న ఒక ఉద్యోగిని గూగుల్ తొలగించిన కొద్ది నెలల తర్వాత ఈ పేపర్ వచ్చింది. గూగుల్‌లో AI బృందాలతో ఉద్యోగం చేస్తున్న సాఫ్ట్‌వేర్ ఇంజనీర్ బ్లేక్ లెమోయిన్, తాను పనిచేస్తున్న చాట్‌బాట్ సెంటిమెంట్‌గా మారిందని మరియు చిన్నపిల్లలా ఆలోచిస్తున్నట్లు పేర్కొన్నాడు. అతను వాషింగ్టన్ పోస్ట్‌తో మాట్లాడుతూ, “మేము ఇటీవల నిర్మించిన ఈ కంప్యూటర్ ప్రోగ్రామ్ ఏమిటో నాకు సరిగ్గా తెలియకపోతే, అది ఏడేళ్ల, ఎనిమిదేళ్ల పిల్లవాడికి తెలిసిందని నేను అనుకుంటున్నాను. భౌతిక శాస్త్రం.”
