ከኮቪድ በፊት፣ እራሴን የቴክኖሎጂ ብሩህ ተስፋ ሰጪ ብዬ እገልጸው ነበር። አዳዲስ ቴክኖሎጂዎች ሁልጊዜ ማለት ይቻላል የሚመጡት በተጋነኑ ፍርሃቶች መካከል ነው። የባቡር ሐዲዶች የአእምሮ መበላሸትን ያስከትላሉ ተብሎ ይታሰብ ነበር፣ ብስክሌቶች ሴቶችን መሃን ወይም እብዶች ያደርጋቸዋል ተብሎ ይታሰብ ነበር፣ እና ቀደምት የኤሌክትሪክ ኃይል ከሥነ ምግባር ውድቀት እስከ አካላዊ ውድቀት ድረስ ለሁሉም ነገር ተጠያቂ ነበር። ከጊዜ በኋላ እነዚህ ጭንቀቶች ጠፍተዋል፣ ማህበረሰቦች ተላምደዋል፣ እና የኑሮ ደረጃዎች ጨምረዋል። ንድፉ የታወቀ ስለነበር አርቴፊሻል ኢንተለጀንስ ሊከተለው ይችላል፡ ረብሻ፣ አንዳንድ ጊዜ አላግባብ ጥቅም ላይ የዋለ፣ ግን በመጨረሻ ሊተዳደር የሚችል ይመስላል።
የኮቪድ ዓመታት ያንን በራስ መተማመን አላስደሰተውም - ቴክኖሎጂ ስላልተሳካ ሳይሆን ተቋማት ስላላደረጉት ነው።
በዓለም ዙሪያ በአብዛኛው አገሮች፣ መንግሥታትና የባለሙያ አካላት ለጥርጣሬ ምላሽ የሰጡት ታይቶ በማይታወቅ ማህበራዊና ባዮሜዲካል ጣልቃገብነቶች፣ በከፋ ሁኔታ በተረጋገጡ ሞዴሎች የተረጋገጡ እና በሚያስደንቅ እርግጠኛነት የተተገበሩ ናቸው። ተወዳዳሪ መላምቶች ክርክር ከማድረጉ ይልቅ ተገለሉ። የአስቸኳይ ጊዜ እርምጃዎች ወደ ረጅም ጊዜ ፖሊሲ እየጨመሩ መጡ። ማስረጃ ሲቀየር፣ የስህተት መቀበል ብርቅ ነበር፣ እና ተጠያቂነት አሁንም ብርቅ ነው። ይህ ተሞክሮ ከማንኛውም የፖሊሲ ስህተት የበለጠ ጥልቅ ችግር አጋልጧል፡ ዘመናዊ ተቋማት ያለአንዳች ተደራሽነት እርግጠኛ አለመሆንን ለማስተዳደር በቂ ብቃት የሌላቸው ይመስላሉ።
ያ ትምህርት አሁን በአርቴፊሻል ኢንተለጀንስ ላይ በሚደረጉ ክርክሮች ላይ በእጅጉ ይዳስሳል።
የ AI ስጋት ክፍፍል
በአጠቃላይ ሲታይ፣ ስለ የላቀ የአዕምሮ ህዋሳት ምርምር ስጋት በሁለት ጎራዎች ይከፈላል። አንድ ቡድን - እንደ ኤሊዜር ዩድኮቭስኪ እና ኔት ሶሬስ ካሉ አሳቢዎች ጋር የተያያዘ - በበቂ ሁኔታ የላቀ የአዕምሮ ህዋሳት ምርምር በነባሪነት እጅግ አደገኛ ነው ብሎ ይከራከራል። ሆን ተብሎ በተጣራ ቀረጻቸው፣ ማንም ቢገነባው ሁሉም ይሞታልችግሩ መጥፎ ዓላማዎች ሳይሆን ማበረታቻዎች ናቸው፤ ውድድር አንድ ሰው አቅጣጫውን እንዲቀይር ያረጋግጣል፣ እና አንድ ስርዓት ትርጉም ያለው ቁጥጥር ካመለጠ በኋላ፣ ዓላማዎች ከእንግዲህ አስፈላጊ አይደሉም።
እንደ ስቱዋርት ራስል፣ ኒክ ቦስትሮም እና ማክስ ቴግማርክ ያሉ ሰዎችን ጨምሮ ሁለተኛ ካምፕ የ AI አደጋን በቁም ነገር ይመለከተዋል ነገር ግን አሰላለፍ፣ ጥንቃቄ የተሞላበት አስተዳደር እና ቀስ በቀስ ማሰማራት ስርዓቶችን በሰው ቁጥጥር ስር እንዲቆዩ ሊያደርግ እንደሚችል የበለጠ ብሩህ ተስፋ አለው።
ልዩነቶቻቸው ቢኖሩም፣ ሁለቱም ካምፖች በአንድ መደምደሚያ ላይ ይገናኛሉ፡ ያልተገደበ የአዕምሮ ህክምና (AI) ልማት አደገኛ ነው፣ እና የተወሰነ የክትትል፣ የቅንጅት ወይም የመገደብ አይነት አስፈላጊ ነው። የሚለያዩበት ቦታ በአዋጭነት እና በአስቸኳይ ጊዜ ላይ ነው። ሆኖም ግን እምብዛም የማይመረመረው ነገር ተቋማቱ እራሳቸው ለዚህ ተግባር የሚስማሙ መሆናቸውን ነው።
ኮቪድ የጥርጣሬ ምክንያትን ይጠቁማል።
ኮቪድ የህዝብ ጤና ቀውስ ብቻ አልነበረም፤ እርግጠኛ ባልሆነ ሁኔታ ውስጥ በባለሙያዎች በሚመራ የአስተዳደር ስርዓት ላይ የተደረገ የቀጥታ ሙከራ ነበር። ያልተሟላ መረጃ ሲገጥማቸው፣ ባለስልጣናት በግምታዊ ጉዳቶች የተረጋገጡ ከፍተኛ ጣልቃ ገብነቶችን ደጋግመው መርጠዋል። አለመግባባት ብዙውን ጊዜ እንደ ሳይንሳዊ አስፈላጊነት ሳይሆን እንደ የሞራል ውድቀት ተደርጎ ይታይ ነበር። ፖሊሲዎች የሚሟገቱት ግልጽ በሆነ የወጪ-ጥቅም ትንተና ሳይሆን ለስልጣን በይግባኝ እና በግምታዊ የወደፊት ጊዜዎች ፍርሃት ነው።
ይህ ንድፍ አስፈላጊ ነው ምክንያቱም ዘመናዊ ተቋማት እንደ ህልውና ሲቆጠሩ እንዴት እንደሚያሳዩ ያሳያል። ማበረታቻዎች ወደ ቆራጥነት፣ የትረካ ቁጥጥር እና የሞራል እርግጠኝነት ይሸጋገራሉ። የስህተት እርማት ስምን በእጅጉ ውድ ያደርገዋል። ጥንቃቄ መሳሪያ መሆን ያቆማል እና አስተምህሮ ይሆናል።
ትምህርቱ ባለሙያዎች ልዩ ጉድለት አለባቸው የሚለው አይደለም። ተቋማት ከትህትና ይልቅ ከመጠን በላይ በራስ መተማመንን እጅግ አስተማማኝ በሆነ መንገድ እንደሚሸልሙ ነው፣ በተለይም ፖለቲካ፣ የገንዘብ ድጋፍ እና የህዝብ ፍርሃት ሲጣመሩ። አንዴ ያልተለመዱ ኃይሎች በደህንነት ስም ከተጠየቁ፣ በፈቃደኝነት እምብዛም አይሰጡም።
እነዚህ አሁን በ AI ቁጥጥር ላይ በሚደረጉ ውይይቶች ውስጥ የሚታዩት ተለዋዋጭ ሁኔታዎች ናቸው።
"ቢሆንስ" የተባለው ማሽን
ሰፊ የመንግስት ጣልቃ ገብነትን ለማበረታታት ተደጋጋሚ ምክንያት የሆነው ግምታዊው መጥፎ ተዋናይ ነው፡ አሸባሪ ይህንን ቢገነባስ? አንድ ተንኮለኛ መንግሥት ያንን ቢያደርግስ? ከዚህ መነሻ ሐሳብ የሚመነጨው መንግሥታት አደጋን ለመከላከል በቅድሚያ፣ በስፋት እና ብዙውን ጊዜ በሚስጥር እርምጃ መውሰድ አለባቸው የሚለው ክርክር ነው።
በኮቪድ ወቅት፣ ተመሳሳይ አመክንዮ ሰፊ የባዮሜዲካል ምርምር አጀንዳዎችን፣ የአደጋ ጊዜ ፈቃዶችን እና ማህበራዊ ቁጥጥሮችን ያጸድቃል። ምክንያቱ ክብ ቅርጽ ያለው ነበር፡ ምክንያቱም የሆነ አደገኛ ነገር ስላለ። ኀይል ሁኔታው ሲከሰት፣ መንግሥት አሁኑኑ ያልተለመደ እርምጃ መውሰድ አለበት - ይህም ራሱ ጉልህ የሆኑ እና በደንብ ያልተረዱ አደጋዎችን የሚያስከትለው እርምጃ ነው።
የአርቲፊሻል ኢንተለጀንስ አስተዳደር በተመሳሳይ መልኩ እየተቀረጸ ነው። አደጋው የአርቲፊሻል ኢንተለጀንስ ስርዓቶች ባልተጠበቀ ሁኔታ ሊሠሩ ይችላሉ የሚለው ብቻ ሳይሆን፣ የዚያ ዕድል ፍርሃት አማራጭ ባለመኖሩ ምክንያት ዘላቂ የአደጋ ጊዜ አስተዳደርን - በስሌት፣ በምርምር እና በመረጃ ፍሰቶች ላይ ማዕከላዊ ቁጥጥርን - ሕጋዊ ያደርገዋል።
የግል አደጋ፣ የህዝብ አደጋ
በእነዚህ ክርክሮች ውስጥ አንድ ዝቅተኛ ግምት የሚሰጠው ልዩነት በግል ተዋናዮች የሚፈጠሩ አደጋዎች እና በመንግስት ባለስልጣናት የሚፈጠሩ አደጋዎች መካከል ነው። የግል ድርጅቶች በተጠያቂነት፣ በውድድር፣ በዝና እና በገበያ ዲሲፕሊን የተገደቡ ናቸው - ፍጽምና የጎደለው ቢሆንም ትርጉም ባለው መልኩ። እነዚህ ገደቦች ጉዳትን አያስወግዱም፣ ነገር ግን የግብረመልስ ዑደቶችን ይፈጥራሉ።
መንግስታት በተለየ መንገድ ይሰራሉ። ክልሎች በአደጋ መከላከል ስም ሲሰሩ፣ ግብረመልስ ይዳከማል። ውድቀቶች እንደ አስፈላጊ ነገሮች እንደገና ሊመደቡ ይችላሉ። ወጪዎች ወደ ውጭ ሊለወጡ ይችላሉ። ሚስጥራዊነት በደህንነት ሊረጋገጥ ይችላል። የወደፊት ግምታዊ ጉዳቶች በአሁኑ ጊዜ የፖሊሲ ተንሸራታቾች ይሆናሉ።
በርካታ የ AI አሳቢዎች ይህንን በተዘዋዋሪ ይቀበላሉ። ቦስትሮም ስለ “መቆለፊያ” ተጽእኖዎች አስጠንቅቋል - ከ AI ስርዓቶች ብቻ ሳይሆን በድንጋጤ ጊዜያት በተፈጠሩ የአስተዳደር መዋቅሮች። የአንቶኒ አጊርር ዓለም አቀፍ ቁጥጥር ጥሪ፣ ምክንያታዊ በሆነ መልኩ ወጥነት ያለው ቢሆንም፣ በቅርብ ጊዜ በትህትና እና በስህተት እርማት ላይ የተመዘገበው ታሪክ ደካማ በሆነባቸው ዓለም አቀፍ የማስተባበር አካላት ላይ የተመሠረተ ነው። ይበልጥ መካከለኛ ሀሳቦች እንኳን የፖለቲካዊነትን እና የተልዕኮ መንሸራተትን መቋቋም የሚችሉ ተቆጣጣሪዎችን ይገምታሉ።
ኮቪድ በዚህ ግምት ላይ እምነት እንድንጥል የሚያደርግ በቂ ምክንያት አይሰጠንም።
የተቆጣጣሪዎች ፓራዶክስ
ይህ በAI ክርክር መሃል ላይ ወደሚገኝ አሳሳቢ ፓራዶክስ ይመራል። አንድ ሰው የተራቀቀ AI መገደብ፣ መቀዛቀዝ ወይም መቆም እንዳለበት በእውነት ካመነ፣ ይህን ለማድረግ ኃይሉን የሚይዙት መንግስታት እና ዓለም አቀፍ ተቋማት ናቸው። ሆኖም ግን፣ እነዚህ በቅርብ ጊዜ የነበራቸው ባህሪ በተገደበ እና በተገላቢጦሽ ኃይል አጠቃቀም ላይ ብዙም እምነት የማይጥሉ ተዋናዮች ናቸው።
የአደጋ ጊዜ ማዕቀፍ ተጣባቂ ነው። መላምታዊ አደጋዎችን ለማስተዳደር የተገኘው ሥልጣን የመቀጠልና የመስፋፋት አዝማሚያ አለው። ተቋማት የራሳቸውን አስፈላጊነት እምብዛም አያዋርዱም። በAI አውድ ውስጥ፣ ይህ ለAI አደጋ የሚሰጠው ምላሽ ከማንኛውም የግል ቴክኖሎጂ ይልቅ ለመላቀቅ አስቸጋሪ የሆኑ ደካማ፣ ፖለቲካዊ የቁጥጥር ስርዓቶችን የመፍጠር እድልን ይጨምራል።
በሌላ አነጋገር አደጋው የሰው ልጅ የአዕምሮ ጤና ኢንተለጀንስ ቁጥጥር ማምለጡ ብቻ ሳይሆን የአዕምሮ ጤና ኢንተለጀንስ ፍርሃት ቀደም ሲል ስህተትን ለመቀበል ቀርፋፋ እና ለተቃውሞ ተቃዋሚዎች ጥላቻ ባላቸው ተቋማት ውስጥ የስልጣን ክምችትን ያፋጥናል።
እውነተኛውን አደጋ እንደገና ማሰብ
ይህ ስለ AI ቸልተኝነትን የሚመለከት ክርክር አይደለም፣ ወይም ኃይለኛ ቴክኖሎጂዎች እውነተኛ ጉዳት ሊያስከትሉ እንደሚችሉ መካድ አይደለም። ማዕቀፉን ለማስፋት የሚያስችል ክርክር ነው። የተቋማዊ ውድቀት ራሱ የህልውና ተለዋዋጭ ነው። ደግነትን የሚጠይቅ፣ ራሱን የሚያስተካክል አስተዳደርን የሚቀበል ስርዓት ደግነትን የሚከተል፣ የተጣጣመ ሱፐርኢለጀንስን ከሚወስድ ሰው የበለጠ ደህንነቱ የተጠበቀ አይደለም።
ከኮቪድ በፊት፣ አብዛኛዎቹን የቴክኖሎጂ ተስፋ ቢስነት ከሰው ልጅ አሉታዊ አድልዎ ጋር ማያያዝ ምክንያታዊ ነበር - የኛ ትውልድ ተግዳሮቶች በተለየ ሁኔታ ሊቋቋሙት የማይችሉ ናቸው ብሎ የማመን ዝንባሌ። ከኮቪድ በኋላ፣ ጥርጣሬ እንደ አድልዎ ሳይሆን እንደ ልምድ ይመስላል።
ስለዚህ በAI ክርክር ውስጥ ያለው ማዕከላዊ ጥያቄ ማሽኖች ከሰው ልጅ እሴቶች ጋር ሊጣጣሙ ይችላሉ ወይ የሚለው ብቻ ሳይሆን ዘመናዊ ተቋማት ያለመረጋጋትን ሁኔታ ሳያጎሉ ለማስተዳደር እምነት ሊጣልባቸው ይችላል ወይ የሚለው ነው። ያ እምነት ከተሸረሸረ - እና ኮቪድ እንዳደረገው ከጠቆመ - ሰፊ የAI ቁጥጥር ጥሪዎች ቢያንስ የቴክኖሎጂ አለመቻልን በተመለከተ ከሚቀርቡት ጥያቄዎች ጋር ተመሳሳይ የሆነ ምርመራ ሊደረግባቸው ይገባል።
ትልቁ አደጋ የ AI በጣም ኃይለኛ መሆኑ ላይሆን ይችላል፣ ነገር ግን ያንን እድል መፍራት በኋላ ላይ ለመኖር ወይም ለማምለጥ በጣም አስቸጋሪ የሆኑ የቁጥጥር ዓይነቶችን ያረጋግጣል።
-
ሮጀር ባቴ የብራውንስቶን ባልደረባ፣ በአለም አቀፍ የህግ እና ኢኮኖሚክስ ማእከል (ጃንዋሪ 2023-አሁን)፣ የአፍሪካ የቦርድ አባል (መስከረም 2000-አሁን) እና በኢኮኖሚ ጉዳዮች ኢንስቲትዩት (ጥር 2000-አሁን) የቦርድ አባል ነው።
ሁሉንም ልጥፎች ይመልከቱ።
