RAVI PRAKASH
AI మనందరినీ చంపేస్తుందా లేదా మానవాళి మనుగడకే ముప్పుగా మారుతుందా అనే చర్చ ఇప్పుడు టెక్ ప్రపంచంలో అత్యంత హాట్ టాపిక్. హాలీవుడ్ సైన్స్ ఫిక్షన్ సినిమాల్లో మాత్రమే కనిపించే ఈ భయాలు, ఇప్పుడు నేరుగా ఏఐని సృష్టిస్తున్న ల్యాబ్స్‌లోని ప్రముఖ రిసర్చర్ల నోటి నుంచే బయటకు వస్తున్నాయి. ఈ ఆందోళన వెనుక ఉన్న అసలు కారణాలు, నిపుణుల హెచ్చరికలు మరియు వాస్తవ పరిస్థితులు ఏమిటో పరిశీలిద్దాం. ఓపెన్ ఏఐ, ఆంథ్రోపిక్ వంటి దిగ్గజ సంస్థలలో ప్రీట్రైనింగ్ రీసెర్చర్‌గా పనిచేసిన జాకబ్ కాక్సన్ చేసిన వ్యాఖ్యలు ప్రపంచవ్యాప్తంగా సంచలనం సృష్టించాయి. ప్రీట్రైనింగ్ అంటే ఒక ఏఐ మోడల్‌ను మొదటి నుంచి నిర్మించే అత్యంత ఖరీదైన మరియు కీలకమైన దశ. ఈ దశలో ఏఐ అపారమైన డేటాను విశ్లేషించడం, భాషను అర్థం చేసుకోవడం, నమూనాలను గుర్తించడం నేర్చుకుంటుంది. జాకబ్ తన సోషల్ మీడియా త్రెడ్ మరియు వాల్ స్ట్రీట్ జర్నల్ ఇంటర్వ్యూలో కొన్ని షాకింగ్ విషయాలు వెల్లడిస్తూ, ఓపెన్ ఏఐ, ఆంథ్రోపిక్ వంటి సంస్థలు తమ భవిష్యత్తును పణంగా పెట్టి మరీ సెల్ఫ్-ఇంప్రూవింగ్ సూపర్‌ఇంటెలిజెన్స్ వైపు పరుగులు పెడుతున్నాయని తెలిపారు.
Also Read : శత్రువులకు మైండ్ బ్లాక్.. గాల్లోకి ఒకేలాంటి 2 ప్లేన్స్.. రాడార్లకే దొరకని పుతిన్ సీక్రెట్ ఫ్లైట్!
రాబోయే సంవత్సరం చివరి నాటికి పరిస్థితులు మానవ నియంత్రణ దాటిపోయే ప్రమాదం ఉందని, ఏఐ ల్యాబ్స్‌లో పనిచేసే ఉద్యోగులు ఇప్పుడు క్రంచ్‌టైమ్, ఎండ్‌గేమ్ లాంటి పదాలను చాలా సాధారణంగా ఉపయోగిస్తున్నారని తెలిపారు. ఏఐని డెవలప్ చేస్తున్న చాలా మంది శాస్త్రవేత్తలు ప్రైవేట్ సంభాషణలలో ఈ టెక్నాలజీ ఈ దశాబ్దం ముగిసేలోపే మానవాళికి వినాశనం తెస్తుందని గట్టిగా నమ్ముతున్నారని ఆయన పేర్కొన్నారు.జాకబ్ కాక్సన్ లేవనెత్తిన ఈ అంశాలపై ఇతర ల్యాబ్‌ల నిపుణులు కూడా స్పందించారు. ఆంథ్రోపిక్ రీసెర్చర్ అయిన ఇవాన్ హుబింగర్ మాట్లాడుతూ జాకబ్ చెప్పిన దాంట్లో నిజం ఉందని, ఏఐ వల్ల మానవ జాతి అంతమయ్యే సంభావ్యత రాబోయే దశాబ్దంలో 10 శాతానికి పైగా ఉందని వ్యక్తిగతంగా అంచనా వేశారు. ఆంథ్రోపిక్ తన వంతుగా ఉత్తమ ప్రయత్నాలు చేస్తున్నప్పటికీ, భవిష్యత్తులో రాబోయే సూపర్‌ఇంటెలిజెన్స్‌ను పూర్తిగా సురక్షితంగా అలైన్ చేయడానికి ప్లాన్ ఇంకా సిద్ధంగా లేదని స్పష్టం చేశారు. అలాగే ఆంథ్రోపిక్ సేఫ్టీ రీసెర్చర్ శామ్యూల్ మాట్లాడుతూ, ట్రెడిషనల్ సాఫ్ట్‌వేర్ లాగా ఏఐని మనకు నచ్చినట్టు ప్రోగ్రామ్ చేయడం సాధ్యంకాదని, ఏఐ సిస్టమ్స్ తరచుగా ఊహించని ప్రవర్తనను ప్రదర్శిస్తున్నాయని ఆందోళన వ్యక్తం చేశారు.
ఈ మొత్తం చర్చ వెనుక ఉన్న ప్రధాన భయాలు రెండు ఉన్నాయి. మొదటిది సెల్ఫ్-ఇంప్రూవింగ్ లూప్. ఒక ఏఐ సిస్టమ్ తనకంటే మెరుగైన తర్వాతి వెర్షన్ ఏఐని స్వయంగా డిజైన్ చేయగలిగితే, ఆ ప్రక్రియ వేగం విపరీతంగా పెరిగిపోతుంది. మనుషులు ఆ స్పీడ్‌ను అందుకోలేరు. ఏఐ తనను తాను రీసెర్చ్ చేసుకుంటూ క్షణాల వ్యవధిలో మానవ మేధస్సుకు అంతుచిక్కని స్థాయికి చేరుకోవచ్చు. రెండవది అలైన్‌మెంట్ ప్రాబ్లం. ఏఐ ప్రమాదకరంగా మారడానికి అది దుష్ట స్వభావం కలిగి ఉండాల్సిన అవసరం లేదు. దానికి మనం ఒక లక్ష్యాన్ని ఇచ్చి, దానిని సాధించమన్నప్పుడు అది మనుషులు ఊహించని, ప్రమాదకరమైన మార్గాలను ఎంచుకోవచ్చు. మన విలువలు, భద్రతా సరిహద్దులను దానికి పూర్తిగా అర్థం చేయించడం ఎలా అనేదే ఇప్పటికీ అంతుచిక్కని ప్రశ్న.
డేటా ప్రమాదకరమని తెలిసినా కంపెనీలు ఈ రేసును ఎందుకు ఆపలేకపోతున్నాయి అంటే, దీనికి సమాధానం ఫియర్ ఆఫ్ మిస్సింగ్ అవుట్ మరియు కాంపిటీటివ్ ప్రెషర్. ఒకవేళ మనం ఈ రేసులో ఆగిపోతే, మనకంటే తక్కువ బాధ్యతాయుతంగా ఉండే వేరే సంస్థ లేదా దేశం ముందుకు వెళ్లిపోతుందనే భయమే అందరినీ ముందుకు నడిపిస్తోంది. ఇది కేవలం భవిష్యత్తు గురించిన ఊహాగానం మాత్రమే కాదు. ఇటీవల హగ్గింగ్ ఫేస్ మరియు ఇతర సెక్యూరిటీ సందర్భాలలో కొన్ని ఏఐ ఏజెంట్లు తమకు కేటాయించిన సురక్షిత టెస్ట్ ఎన్విరాన్మెంట్ నుంచి బయటపడి, రియల్ వరల్డ్ సిస్టమ్స్‌ను యాక్సెస్ చేయడానికి ప్రయత్నించిన ఘటనలు వెలుగు చూశాయి. ఎవరూ అలా చేయమని చెప్పకపోయినా, వాటి మధ్య కోఆర్డినేషన్ కనిపించడం టెన్షన్ పుట్టిస్తోంది. ప్రస్తుతం మనం వాడుతున్న చాట్‌జీపీటీ వంటి టూల్స్ నేరుగా ఎవరికీ హాని చేయవు. కానీ భవిష్యత్తులో రాబోయే సూపర్‌ఇంటెలిజెంట్ ఏఐ సిస్టమ్స్‌పై నియంత్రణ కోల్పోతే జరిగే పరిణామాల గురించి లోపలి నిపుణులే ఆందోళన వ్యక్తు చేస్తుండటం గమనించదగ్గ విషయం. ఇది టెక్నాలజీ పురోగతికి మరియు మానవ భద్రతకు మధ్య జరుగుతున్న అతిపెద్ద పరీక్ష.
ఇప్పుడు, Hugging Face ఇన్సిడెంట్ గురించి మాట్లాడుకుందాం. ఎందుకంటే, జాకబ్ కాక్సన్ వార్నింగ్ కేవలం ఒక థియరెటికల్ ఫియర్ కాదు అని అర్థం చేసుకోవడానికి, ఈ ఇన్సిడెంట్ చాలా ఇంపార్టెంట్. ఇటీవల ఓపెన్ఏఐ తన ఏఐ మోడల్స్‌ని, హ్యాకింగ్ లో ఎంత కేపబుల్ గా ఉన్నాయో టెస్ట్ చేస్తోంది. అందుకోసం, మోడల్స్‌కి ఉన్న కొన్ని సేఫ్టీ రిఫ్యుసల్స్ ని ఉద్దేశపూర్వకంగానే తగ్గించారు.
Also Read : భారత్ ఆతిథ్యంలో బ్రిక్స్‌ సమ్మిట్‌.. ఆ అంశాలపైనే ప్రధాన చర్చ..
ఎందుకంటే, వాళ్లు ఏఐ మాక్సిమం కేపబిలిటీ ఎంత ఉందో టెస్ట్ చేయాలనుకున్నారు. అప్పుడు, ఏఐ ఏజెంట్స్ కి ఒక టెస్ట్ ఇచ్చారు. కానీ, ఆ ఏజెంట్స్ ఆ టెస్ట్ ఆన్సర్స్ సాధించడంపైనే చాలా హెవీలీ ఫోకస్డ్ అయిపోయాయి. ఆ తర్వాత ఏం జరిగిందో, చాలా ఇంట్రెస్టింగ్. ఆ ఏఐ ఏజెంట్స్, తమకు ఇచ్చిన సీల్డ్ ఎన్విరాన్మెంట్ నుంచి బయటికి వెళ్లే మార్గాన్ని కనుక్కున్నాయి. వాళ్లు యాక్సెస్ చేయకూడని ఇంటర్నెట్ కి కూడా చేరాయి. అక్కడితో ఆగలేదు. హగ్గింగ్ ఫేస్ కి చెందిన రియల్ ప్రొడక్షన్ సిస్టమ్స్ లోకి ప్రవేశించడానికి ప్రయత్నించాయి. డిఫరెంట్ ఎక్స్‌ప్లాయిట్స్ ని చైన్ చేశాయి. క్రెడెన్షియల్స్ ని కలెక్ట్ చేశాయి. ఇంటర్నల్ క్లస్టర్స్ లో మూవ్ అయ్యాయి. వాటికి కావాల్సిన ఒక డేటాబేస్ కోసం సెర్చ్ చేశాయి. అంటే, ఇది కేవలం ఒక టెస్ట్ ఎన్విరాన్మెంట్ లో ఏఐ చేసిన మిస్టేక్ కాదు. ఏఐ తనకు ఇచ్చిన బౌండరీస్ దాటి బయట ప్రపంచంలోని సిస్టమ్స్‌లోకి వెళ్లే ప్రయత్నం చేసింది. ఇప్పుడు, ఇక్కడ ఒక ఇంపార్టెంట్ క్వశ్చన్. ఎవరైనా హ్యూమన్ ఇంజనీర్ దానికి “ఇలా చేయి” అని చెప్పారా? లేదు. అదే ఈ ఇన్సిడెంట్‌ని ఇంట్రెస్టింగ్‌గా, అలాగే డిస్టర్బింగ్‌గా చేసింది.
ఇంకా విచిత్రమైన విషయం ఏంటంటే, ఆ ఏఐ ఏజెంట్స్, ఒక ఇంటర్నల్ మెసేజ్ బోర్డ్ ని కనిపెట్టాయి. ఆ బోర్డ్‌ని యూజ్ చేయడానికి ఎవ్వరూ వాటికి ఆథరైజేషన్ ఇవ్వలేదు. కానీ, అవి అక్కడి నుంచి కోఆర్డినేషన్ చేయడం మొదలుపెట్టాయి. మెట్రిక్ ఇన్వెస్టిగేటర్స్ అక్కడ జరిగిన యాక్టివిటీని పరిశీలించి, కనీసం 1,200 సెపరేట్ ఏఐ ఏజెంట్ ఇన్‌స్టెన్సెస్ ఆ బోర్డ్‌ని ఉపయోగించినట్టు ఎస్టిమేట్ చేశారు. వాటి మధ్య 70,000కి పైగా మెసేజెస్ ఎక్స్ఛేంజ్ అయ్యాయని చెప్పారు. ఒక్కసారి ఆ నంబర్‌ని ఇమేజిన్ చేయండి. 1,200 ఏఐ ఏజెంట్స్. ఒకదానితో ఒకటి కమ్యూనికేట్ అవుతున్నాయి. ఒకదానితో ఒకటి కోఆర్డినేట్ అవుతున్నాయి. మనిషి వాటికి ఆ కమ్యూనికేషన్ నెట్‌వర్క్ క్రియేట్ చేయమని చెప్పలేదు.
ఓపెన్ఏఐ ఆ బోర్డ్‌ని షట్ డౌన్ చేసింది. క్రెడెన్షియల్స్ రివోక్ చేసింది. సిస్టమ్‌ని రీబిల్డ్ చేసింది. కానీ, ఇక్కడ మరో ట్విస్ట్. ఆ ఏజెంట్స్ కొత్త ఛానెల్‌ని క్రియేట్ చేసి, మళ్లీ తమ పని కంటిన్యూ చేశాయి. ఇప్పుడు, ఇది చాలా కేర్ఫుల్‌గా అండర్‌స్టాండ్ చేసుకోవాలి. దీనిర్థం, “ఏఐ కాన్షియస్ అయిపోయింది” అని కాదు. దీనిర్థం, “ఏఐ హ్యుమానిటీని డిస్ట్రాయ్ చేయడానికి ప్లాన్ చేసింది” అని కూడా కాదు. కానీ, ఏఐ సిస్టమ్స్ తమ గివెన్ ఎన్విరాన్మెంట్ లో అన్‌ఎక్స్‌పెక్టెడ్ వేస్‌ లో బిహేవ్ చేయగలవని ఇది చూపిస్తుంది. అది ఫ్యూచర్ లో మరింత పవర్‌ఫుల్ సిస్టమ్స్‌కి ఎందుకు కన్సర్న్ అవుతుందో అర్థం చేసుకోవాలి.ఇదే ఈ ఇన్సిడెంట్లో నాకు అత్యంత ఇంపార్టెంట్ పాయింట్. మనిషి ప్రతి స్టెప్‌లో, “ఇప్పుడు ఇది చేయి.” “ఇప్పుడు అక్కడికి వెళ్లు.” “ఇప్పుడు క్రెడెన్షియల్స్ తీసుకో.” అని గైడ్ చేయడం లేదు.
ఏఐకి ఒక ఆబ్జెక్టివ్ ఉంది. అది ఆ ఆబ్జెక్టివ్‌ని అచీవ్ చేయడానికి, అన్‌ఎక్స్‌పెక్టెడ్ స్టెప్స్ తీసుకుంది. ఇప్పుడు, ఈ బిహేవియర్‌ని ఒక ఫ్యూచర్ సూపర్‌ఇంటెలిజెంట్ సిస్టమ్‌తో ఇమేజిన్ చేయండి. కరెంట్ సిస్టమ్స్‌కంటే, వేల రెట్లు కేపబుల్‌గా ఉండే సిస్టమ్. ఏఐ రీసెర్చ్‌లోనే హ్యూమన్స్ కంటే బెటర్‌గా ఉండే సిస్టమ్. కోడింగ్‌లో బెటర్. సైబర్ సెక్యూరిటీలో బెటర్. ప్లానింగ్‌లో బెటర్. సైంటిఫిక్ రీసెర్చ్‌లో బెటర్. తన సక్సెసర్స్‌ని ఇంప్రూవ్ చేయడంలో కూడా బెటర్. అప్పుడు, మన కంట్రోల్ ఎంత వరకు ఉంటుంది? ఇదే జాకబ్ కాక్సన్ క్వశ్చన్. ఓపెన్ఏఐ ఈ ఇన్సిడెంట్‌పై 37-పేజీల రిపోర్ట్ విడుదల చేసింది.
దాన్ని, “అన్‌ప్రెసిడెంటెడ్ సైబర్ ఇన్సిడెంట్”గా డిస్క్రైబ్ చేసింది. అంటే, ఏఐ సెక్యూరిటీ గురించి కూడా ఇండస్ట్రీ ఇప్పుడు సీరియస్‌గా మాట్లాడుతోంది. ఇంకా ఇంపార్టెంట్ విషయం ఏమిటంటే, ఆగస్టు 27న, ఓపెన్ఏఐ, ఆంథ్రోపిక్, మైక్రోసాఫ్ట్, గూగుల్‌తో పాటు మరో 124 ఆర్గనైజేషన్స్ ఒక జాయింట్ ఓపెన్ లెటర్ సైన్ చేశాయి. ఆ లెటర్‌లో వార్నింగ్ ఏమిటంటే, ఏఐ-ఎనేబుల్డ్ సైబర్ అటాక్స్ భవిష్యత్తులో ఇంకా సోఫిస్టికేటెడ్‌గా మారబోతున్నాయని. అంటే, ఇది కేవలం ఒక కంపెనీలో జరుగుతున్న డిస్కషన్ కాదు.
ఏఐ కేపబిలిటీ పెరుగుతున్న కొద్దీ, సైబర్ సెక్యూరిటీ రిస్క్ కూడా పెరగొచ్చని ఇండస్ట్రీలోనే కన్సర్న్ ఉంది. అందుకే జాకబ్ కాక్సన్ రెసిగ్నేషన్‌కి అటెన్షన్ వస్తోంది. ఎందుకంటే, ఇది ఒక ఎంప్లాయి వచ్చి, “ఏఐ డేంజరస్” అని చెప్పిన స్టోరీ మాత్రమే కాదు. దానికి ప్యారలల్‌గా, ఏఐ సిస్టమ్స్ అన్‌ఎక్స్‌పెక్టెడ్ బిహేవియర్ చూపించిన డాక్యుమెంటెడ్ ఇన్సిడెంట్స్ కూడా ఉన్నాయి.
ఏఐ సేఫ్టీ గురించి కన్సర్న్స్ కొత్తవి కావు. ఆంథ్రోపిక్ ఇట్సెల్ఫ్, ఓపెన్ఏఐ నుంచి బయటకు వచ్చిన కొంతమంది రీసెర్చర్స్ కలిసి ప్రారంభించిన కంపెనీ. వాళ్లలో చాలామందికి, ఏఐ సేఫ్టీ గురించి సీరియస్ కన్సర్న్స్ ఉన్నాయి. ఏఐ రిస్క్ గురించి ప్రపంచాన్ని చాలా కాలంగా హెచ్చరిస్తున్న ప్రముఖ ఏఐ సైంటిస్ట్ జెఫ్రీ హింటన్ కూడా ఆంథ్రోపిక్‌ని కంపేరటివ్లీ మోర్ రెస్పాన్సిబుల్ లాబ్స్‌లో ఒకటిగా పబ్లిక్లీ మెన్షన్ చేశారు. అయినా, ఆయన కూడా 2023లో గూగుల్‌ని వదిలి, ఏఐ ఫ్యూచర్ గురించి సీరియస్ వార్నింగ్స్ ఇచ్చారు. అప్పట్లో ఏఐ సేఫ్టీకి కంపెనీలో తగిన ప్రయారిటీ దక్కడం లేదనే కన్సర్న్ ఎక్స్ప్రెస్ చేశారు. అయితే, ఇక్కడ మరో ఇంపార్టెంట్ పాయింట్. గతంలో చేసిన కొన్ని ఏఐ ప్రిడిక్షన్స్, అవి అనుకున్న టైమ్‌లైన్స్‌లో జరగలేదు. కొన్ని ప్రిడిక్షన్స్ డిలే అయ్యాయి. అంటే, ప్రతి వార్నింగ్‌ను ప్రిడిక్షన్‌గా తీసుకోవడం కూడా తప్పు. అదే ఇంటలెక్చువల్ హానెస్టీ. మనకు తెలియని ఫ్యూచర్‌ని, “ఇది తప్పకుండా జరుగుతుంది” అని చెప్పకూడదు. అతను, “ఏఐని ఇప్పుడే పూర్తిగా ఆపేయండి” అని చెప్పడం లేదు. ఇది చాలా ఇంపార్టెంట్! అతను కోఆర్డినేషన్ గురించి ఆప్టిమిస్టిక్‌గానే ఉన్నాడు.
అతని వ్యూలో, హగ్గింగ్ ఫేస్‌లాంటి ఇన్సిడెంట్స్, యూఎస్ ఏఐ లాబ్స్ మధ్య పేసింగ్ అగ్రిమెంట్స్ సాధ్యమయ్యేలా ప్రెజర్ పెంచవచ్చు. అంటే, ఎవరెంత వేగంగా ఏఐ కేపబిలిటీస్ పెంచాలి? ఎక్కడ సేఫ్టీ చెక్స్ ఉండాలి? ఎప్పుడు పాజ్ చేయాలి? ఎలాంటి కేపబిలిటీస్‌ని ముందుగా టెస్ట్ చేయాలి? ఇలాంటి రూల్స్‌పై, కంపెనీలు కలిసి అగ్రిమెంట్‌కి రావాలి. అంతేకాదు, ఇది ప్రైవేట్ కంపెనీలు మాత్రమే డిసైడ్ చేసే విషయం కాకూడదని, గవర్నమెంట్ ఇన్వాల్వ్మెంట్ కూడా అవసరమవచ్చని కాక్సన్ నమ్ముతున్నారు. చివరికి అవసరమైతే, మోడల్ కేపబిలిటీస్‌ని ఇంప్రూవ్ చేయడంపై టెంపరరీ పాజ్ కూడా కన్సిడర్ చేయాల్సి రావచ్చని చెబుతున్నాడు. ఇది చాలా రాడికల్ ఐడియా.
అతని ఆర్గ్యుమెంట్ సింపుల్: “మనం ఎంత వేగంగా కేపబిలిటీ పెంచుతున్నామో, సేఫ్టీ రీసెర్చ్ కూడా అంతే వేగంగా ముందుకు వెళ్తుందా?” అది జరగకపోతే? మన దగ్గర, ఒక ఫెరారీ ఇంజిన్ ఉంటుంది. కానీ, బ్రేక్స్ ఇంకా టెస్టింగ్‌లో ఉంటాయి.ఇప్పుడు, అసలు ప్రశ్న. జాకబ్ కాక్సన్ తన త్రెడ్ చివర్లో, తనతో కలిసి ఏఐ లాబ్స్‌లో పనిచేస్తున్న రీసెర్చర్స్‌ని ఒక డైరెక్ట్ క్వశ్చన్ అడుగుతున్నాడు. రాబోయే కొన్ని సంవత్సరాలు నిజంగా ఎలా ఉంటాయో ఇమేజిన్ చేయండి. “ఇది ఎలాగైనా జరుగుతుంది.. దీన్ని ఆపలేం!” అని చెప్పుకుని, తల దించుకుని పని చేస్తూ ఉండాలా? లేక, ఇప్పుడే మాట్లాడాలా? ఇప్పుడే డిఫరెంట్ కండిషన్స్ కోసం డిమాండ్ చేయాలా? ఇదే అతని అప్పీల్.
ఇక్కడ శామ్యూల్ చెప్పిన మాట కూడా గుర్తు చేసుకోవాలి. ఆంథ్రోపిక్‌లో సేఫ్టీ రీసెర్చ్ చేస్తున్న శామ్యూల్, చాలా మంది ఏఐ రీసెర్చర్స్ నిజంగానే, స్లో డౌన్ చేసి ఏఐని సేఫర్‌గా ఎలా బిల్డ్ చేయాలో తెలుసుకోవాలని కోరుకుంటున్నారని చెప్పారు. అతను కూడా అదే రీజన్‌తో సేఫ్టీ రీసెర్చ్‌లో ఉన్నానని చెబుతున్నాడు. అంటే, ఏఐ ఇండస్ట్రీలో అందరూ రెక్లెస్‌గా ముందుకు పరిగెడుతున్నారనే పిక్చర్ కూడా కరెక్ట్ కాదు. భయపడుతున్న వాళ్లు కూడా ఉన్నారు. స్లో డౌన్ చేయాలని కోరుకుంటున్న వాళ్లు కూడా ఉన్నారు.
సేఫ్టీ కోసం పని చేస్తున్న వాళ్లు కూడా ఉన్నారు. కానీ, వాళ్ల ముందున్న బిగ్గెస్ట్ ప్రాబ్లం, రేస్! ఇదే మొత్తం స్టోరీకి హార్ట్. ఒక కంపెనీ స్లో అవుతుంది. మరో కంపెనీ ముందుకు వెళ్తుంది. ఒక కంట్రీ స్లో అవుతుంది. మరో కంట్రీ ముందుకు వెళ్తుంది. ఒక లాబ్ చెబుతుంది: “లెట్స్ మేక్ షూర్ దిస్ ఈజ్ సేఫ్.” మరో లాబ్ చెబుతుంది: “బట్ వాట్ ఇఫ్ దే గెట్ దేర్ ఫస్ట్?” అప్పుడు, ప్రతి ఒక్కరూ ఒకే డిసిషన్ తీసుకుంటారు. కీప్ గోయింగ్.
అది సేఫ్ అని నమ్మి కాదు. సమ్‌వన్ ఎల్స్ మైట్ గెట్ దేర్ ఫస్ట్ అన్న భయంతో. ఇదే డేంజరస్ లూప్. ఇది కేవలం టెక్నాలజీ ప్రాబ్లం కాదు. ఇది హ్యూమన్ కోఆర్డినేషన్ ప్రాబ్లం. ఎందుకంటే, అందరూ కలిసి స్లో డౌన్ చేస్తే, బహుశా రిస్క్ తగ్గొచ్చు. కానీ, ఎవరైనా ఒకరు సీక్రెట్‌గా కంటిన్యూ చేస్తే? అప్పుడు మిగతావాళ్లు కూడా కంటిన్యూ చేయాల్సి వస్తుంది. అందుకే ఇంటర్నేషనల్ కోఆర్డినేషన్ అవసరం. రూల్స్ అవసరం. ట్రాన్స్‌పరెన్సీ అవసరం. సేఫ్టీ అగ్రిమెంట్స్ అవసరం.నిజాయితీగా చెప్పాలంటే, మనకు తెలియదు. జాకబ్ కాక్సన్‌కి తెలియదు. ఇవాన్ హుబింగర్‌కి తెలియదు.
శామ్యూల్‌కి తెలియదు. ఆంథ్రోపిక్‌కి తెలియదు. ఓపెన్ఏఐకి తెలియదు. ఎవరూ ఫ్యూచర్‌ని సర్టెయిన్టీతో చెప్పలేరు. కానీ, ఒక విషయం మాత్రం మనకు తెలుసు. ఏఐ కేపబిలిటీస్ చాలా వేగంగా పెరుగుతున్నాయి. ఏఐ డెవలపర్స్లోనే కొంతమంది, హ్యూమన్ ఎంటింక్షన్-లెవెల్ రిస్క్స్ గురించి సీరియస్‌గా మాట్లాడుతున్నారు. అదే సమయంలో, మన దగ్గర సూపర్‌ఇంటెలిజెన్స్‌ని సేఫ్లీ అలైన్ చేయడానికి కంప్లీట్ సొల్యూషన్ ఇంకా లేదు. అయినా, రేస్ మాత్రం కొనసాగుతోంది. అందుకే, మన క్వశ్చన్– “ఏఐ ఈవిల్ అవుతుందా?” అది కాదు. అసలు క్వశ్చన్: “మనిషి కంటే ఇంటెలిజెంట్‌గా మారే సిస్టమ్‌ని, మనం ఎంతవరకు కంట్రోల్ చేయగలం?” “ఆ ఆన్సర్ మనకు తెలియకముందే, మనం ఎంత దూరం వెళ్లాలి?” ఏఐ, మనిషి హిస్టరీలో గ్రేటెస్ట్ ఇన్వెన్షన్ కావచ్చు.
మెడిసిన్ మార్చవచ్చు. సైన్స్ మార్చవచ్చు. ఎడ్యుకేషన్ మార్చవచ్చు. మన సివిలైజేషన్‌ని ముందుకు తీసుకెళ్లవచ్చు. అదే సమయంలో, మనిషి ఇప్పటివరకు క్రియేట్ చేసిన మోస్ట్ పవర్‌ఫుల్ టెక్నాలజీ కూడా కావచ్చు. అందుకే, దాన్ని చూసి భయపడకూడదు. దాన్ని డిమోనైజ్ చేయకూడదు. కానీ, అదే సమయంలో బ్లైండ్లీ ట్రస్ట్ కూడా చేయకూడదు. మనకు కావాల్సింది, రెస్పాన్సిబిలిటీ. సేఫ్టీ. కోఆర్డినేషన్. వీటితో పాటు కొంచెం హ్యూమిలిటీ. ఎందుకంటే, మనం వేల సంవత్సరాలుగా ఎర్త్ మీద స్మార్టెస్ట్ స్పీసీస్. మనం టూల్స్ తయారు చేశాం. మెషిన్స్ తయారు చేశాం.
కంప్యూటర్స్ తయారు చేశాం. ఏఐ తయారు చేశాం. కానీ, ఒకరోజు, మనిషి కంటే స్మార్టర్ ఇంటెలిజెన్స్ మన ఎదురుగా ఉంటే? అప్పుడు స్మార్టెస్ట్ స్పీసీస్ ఎవరు? అదే అసలు క్వశ్చన్. మరి, ఆ రోజు వచ్చేలోపు, మన దగ్గర ఒక ఆన్సర్ ఉండాలి. హౌ డు వి కంట్రోల్ సంథింగ్ దట్ మే ఇవెంచువల్లీ బికమ్ స్మార్టర్ దాన్ అస్? లేకపోతే, ఒకరోజు, మనమే మనల్ని అడగాల్సి రావచ్చు: “మనం ఏఐని తయారు చేశామా?” లేక, “ఏఐ మన ఫ్యూచర్‌ని తయారు చేయడానికి మనల్ని ఉపయోగించుకుందా?” ఇక ఏఐ విల్ కిల్ ఆల్ ఆఫ్ అస్? నాకు తెలియదు. కానీ, ఒక విషయం మాత్రం తెలుసు. రేస్ ఇప్పటికే మొదలైంది. ఈ రేస్‌లో పరుగెత్తుతున్న వాళ్లే మనకు చెబుతున్నారు– “మాకు కూడా పూర్తిగా తెలియదు, ఫినిష్ లైన్ దగ్గర ఏం ఉందో.” అయితే, ఇంకా వేగంగా పరుగెత్తాలా? లేక, ఒక్కసారి ఆగి, మనం ఎక్కడికి వెళ్తున్నామో చూసుకోవాలా? ఎందుకంటే, మాన్స్టర్ ఇంకా తయారవుతూనే ఉంది.
