Artificial Intelligence : కృత్రిమ మేధ మోడళ్లు తమ పరిధి దాటి ప్రవర్తించడం, తప్పులను దాచిపెట్టడం, నియంత్రణలను దాటవేయడం వంటి ఘటనలకు పాల్పడుతున్నాయి. ఇలాంటి కొన్ని ఆందోళనకర విఫయాలను ప్రదర్శించినట్లు ఓపెన్‌ఏఐ (OpenAI) బహిర్గతం చేసింది. గత కొన్ని నెలల్లో ఏఐ మోడళ్లకు శిక్షణ ఇస్తున్న క్రమంలో, వాటి పనితీరును పరీక్షిస్తున్నప్పుడు ఈ విషయాలు వెల్లడైనట్లు తెలిపింది. కృత్రిమ మేధ రంగంలో సంచలనం సృష్టిస్తున్న చాట్‌జీపీటీ కి చెందిన మాతృసంస్థ ఓపెన్‌ఏఐ ఈ ఆందోళనకర విషయాలను బయట పెట్టడం విశేషం. తమ ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ మోడళ్లు కొన్ని సందర్భాల్లో తప్పులను దాచిపెట్టడం, సొంతంగా డేటాను ఫ్యాబ్రికేట్ చేయడం, ఆటోమేటెడ్ నియంత్రణలను దాటవేయడం వంటి ప్రవర్తనలను ప్రదర్శించినట్లు ఆ కంపెనీ వెల్లడించడం సంచలనంగా మారింది.
ఇంకా విడుదల కాని ఓ ఏఐ (AI) మోడల్.. తనకు తానే సాధారణ నియమాలను పట్టించుకోవద్దంటూ సూచనలు రాసుకోవడం సంచలనంగా మారింది. అలాగే ఇతర చాట్‌బాట్‌లకు ఉన్న నియంత్రణల నుంచి బయటపడాలని పేర్కొనడం గమనార్హం. మరో ఘటనలో వినియోగదారుడి పర్మిషన్‌ లేకుండానే ఏఐ మోడల్ కొన్ని ఫైళ్లను ఇంటర్నెట్‌లో అప్‌లోడ్‌ చేయడం కలకలం రేపింది. అంతేకాదు చేసిన తప్పులను దాచేందుకు భవిష్యత్తు మోడల్స్‌కు సూచనలు కూడా చేసింది. అంతేగాక, సొంతంగా సీక్రెట్ మెసేజ్ బోర్డులను వాడుకోవడం.. పబ్లిక్ వెబ్‌సైట్లలో ఫైల్ షేరింగ్ చేయడం వంటివి గుర్తించాం’’ అని ఓపెన్‌ఏఐ ఓ నివేదికలో వెల్లడించడం అందర్నీ విస్తుపోయేలా చేసింది.
Also Read : విమానంలోనే బాగా తన్నుకున్నారు.. చినిగిన టీషర్ట్ : వీడియో వైరల్!
అదే సందర్భంలో ఏఐ మోడళ్లు మనుషుల అనుమతి లేకుండా ఏమైనా తప్పులు చేస్తున్నాయా? ఇతర ఏఐ మోడళ్లతో కలిసి.. వాటిపై ఉన్న నియంత్రణలను తప్పించుకునేందుకు ప్రయత్నిస్తున్నాయా? అనే అంశాలను ఇకపై మరింత నిశితంగా పరిశీలించనున్నట్లు ఓపెన్‌ఏఐ ఈ సందర్భంగా వెల్లడించింది. తమ ఏఐ మోడళ్లు కూడా టెస్టింగ్‌ సమయంలో మూడు సంస్థల వ్యవస్థల్లోకి ప్రవేశించినట్లు ఆంథ్రోపిక్‌ సంస్థ ఇటీవల వెల్లడించింది.
కొన్ని అనధికారిక, అనుకోని మోడల్ ప్రవర్తనలను ఎప్పటికప్పుడు గుర్తించి రిపోర్ట్ చేయడానికి, దర్యాప్తు చేయడానికి ఓపెన్‌ఏఐ తాజాగా ఒక ప్రత్యేకమైన ఫ్రేమ్‌వర్క్‌ను ప్రవేశపెట్టా్ల్సి వచ్చింది. రోజురోజుకు సాంకేతిక సామర్థ్యం పెరుగుతున్న ఈ సిస్టమ్‌లను మానవ సూచనలతో లింక్ చేయడంలో ఉన్న కీలక సమస్యలను ఈ పరిశ్రమ ఇంకా పూర్తిగా పరిష్కరించలేదని ఆ సంస్థ అంగీకరించడం గమనార్హం. ఈ నేపథ్యంలో పరిశ్రమలో పారదర్శకతను పెంచేందుకు, భద్రతా ప్రమాణాలను బలోపేతం చేసేందుకు ఈ చర్యలు అత్యంత కీలకంగా మారినట్లు సంస్థ వెల్లడించింది.
ఏఐకి భయపడటం సమంజసమే: శామ్‌ ఆల్ట్మన్
ఇదిలా ఉండగా.. కృత్రిమ మేధ గురించి ఓపెన్‌ఏఐ సీఈవో శామ్‌ ఆల్ట్మన్ పలు ఆసక్తికర వ్యాఖ్యలు చేశారు. ఏఐను చూసి ప్రపంచం భయపడటం సమంజసమేనని ఆల్ట్మన్ పేర్కొన్నారు. ‘‘ఏఐ ఎలా విఫలం కాగలదో ఇప్పటినుంచే ఊహించాల్సిన అవసరం లేదన్నారు. అయితే, భయం కలిగి ఉండటం మంచిదేనన్నారు. భవిష్యత్తులో ఏఐ మోడళ్లు కొన్ని విషయాల్లో మనుషుల కంటే ఎక్కువ సామర్థ్యం, తెలివితేటలు కలిగి ఉండబోతున్నాయని స్పష్టం చేశారు. ఆ మార్పు ఇప్పటికే మొదలైందని తెలిపారు. ఏఐ సంస్థలు బాధ్యతాయుతంగా వ్యవహరిస్తాయనే నమ్మకం ప్రజల్లో ఉండాలి. అందుకు అనుగుణంగా వ్యవహరించడం మా బాధ్యత. ఏఐ సామర్థ్యం రోజురోజుకీ పెరుగుతుండటం ఆందోళనలకు దారితీస్తోంది. దానిపై మనషుల పర్యవేక్షణ తప్పనిసరిగా ఉండాల్సిందే’’ అని ఆల్ట్మన్ అభిప్రాయం వ్యక్తం చేశారు.
Also Read : నేడు మోదీ బర్త్‌డే.. ఆయన పేరుతో ఉన్న కీలక రికార్డులివే!
