Эрдэмтэн Хинтон: Хиймэл оюун ухаан биднийг гүйцнэ, энэ технологиос сэрэмжлэх ёстой

2023-05-04

Компьютерын ухааны алдарт эрдэмтэн, "хиймэл оюун ухааны загалмайлсан эцэг" гэгддэг Жеффри Хинтон Google компаниас

халагдсанаа мэдэгдээд, хиймэл оюун ухааны хөгжилтэй холбоотой аюул заналын талаар одоо нээлттэй ярих боломжтой болсон хэмээн онцолжээ. Гэхдээ түүний шүүмжлэл нь Google компанитай шууд хамааралгүй, энэ компани хиймэл оюун ухаан ашиглах тал дээр харин ч хариуцлагатай хандаж байгаа хэмээн Хинтон цохон тэмдэглэсэн байна.

Эрдэмтэн Хинтон ВВС агентлагт байр сууриа илэрхийлэхдээ хиймэл оюун ухааны технологи хорон муу санаатай хүмүүсийн гарт, тэр дундаа Владимир Путиний гарт орвол хичнээн аюултай болохыг анхааруулжээ.

"Хиймэл оюун ухаан одоогоор бидэн шиг хөгжөөгүй. Гэхдээ тун удахгүй биднийг гүйцнэ гэж би бодож байна" хэмээн Хинтон ВВС агентлагт ярилцлага өгөхдөө мэдэгджээ.

Өдгөө 75 настай, Британи, Канадын эрдэмтэн Хинтон сэтгэл судлал болон мэдээлэлзүйн салбарын эрдэмтэн юм. Амьдралынхаа олон жилийг зориулсан түүний судалгааны ажлууд нь Chat GPT зэрэг өнөө цагийн хиймэл оюун ухааны системүүд үүсэх замыг тавьсан гэгддэг. Тэрбээр Google компаниас халагдах болсон шалтгаанаа тайлбарлахдаа "компанийн сүүдэрт нуугдахыг хүсээгүй" хэмээжээ.

"Миний ярих зүйл Google компанид нөлөөлөх вий гэж болгоомжлохгүйгээр аюул заналын талаар ярих боломжтой болохын тулд халагдсан. Харин Google хиймэл оюун ухааны тал дээр хариуцлагатай хандаж байгаа" хэмээн Хинтон Твиттер хуудсандаа бичсэн байна.

Түүний сэрэмжлүүлснээр, хиймэл оюун ухааны салбар дахь хөгжлийн хурдад хүмүүс санаа зовниж эхлэх ёстой гэнэ.

"GPT4 шиг системүүд хүмүүсийг оюун ухаанаас ихээхэн давж байгааг бид харж байна. Логик сэтгэлгээний хувьд хиймэл оюун ухаан хоцорч байгаа ч энгийн байдлаар тэд эргэцүүлж чадна. Өнөөгийн хөгжлийн хурдаас харахад хиймэл оюун ухааны боловсруулалт, сайжруулалт тун хурдацтай явагдах нь. Үүнд санаа зовних ёстой" хэмээн эрдэмтэн өгүүлжээ.

Бусад эрдэмтдийн сэрэмжлүүлэг

Хинтоноос өмнө Илон Маск, Apple-ийг үндэслэгчдийн нэг Стив Возняк нарын хиймэл оюун ухааны технологи боловсруулалтын салбарын тэргүүлэгчид аюулгүй байдлыг найдвартай хангах боломжтой болох хүртэл хиймэл оюун ухааны технологийн хөгжүүлэлтийг түр зогсоохыг уриалж байв. Энэ уриалгыг мянга гаруй бизнесмен, шинжээчид хамтран гаргаж, гарын үсэг зуран, гуравдугаар сарын сүүлээр Ирээдүйн амьдралын хүрээлэн нийтлэж байлаа.

Шинэ, өнөөгийн хамгийн дэвшилтэт чат бот болох GPT-4-ийг OpenAI судалгааны лаборатори нээснээс ердөө хоёрхон долоо хоногийн дараа тэд ийм уриалга гаргасан нь олны анхаарлыг ихээр татаж байв. Тэд энэ уриалгадаа GPT-4 чат ботоос илүү хүчирхэг систем гаргахад хагас жилийн хязгаарлалт тавихыг санал болгожээ.

Энэ нээлттэй захидалд нийгэм болон соёл иргэншилд учруулж болохуйц эрсдэлүүдийг дурдсан байв. Шинжээчдийн үзэж байгаагаар хиймэл оюун ухаан дээр суурилсан системүүд нь хүмүүстэй өрсөлдөж магадгүй бөгөөд энэ нь эдийн засаг болон улс төрийн тэсрэлтэд хүргэх аж.

Нээлттэй захидалд гарын үсэг зурсан хүмүүсийн үзэж байгаагаар хүн төрөлхтөн дараах дөрвөн чухал асуултыг өөртөө тавих ёстой гэнэ.

"Машинууд бидний мэдээллийн сувгуудыг суртал ухуулга, худал хуурмагаар дүүргэхийг бид зөвшөөрөх ёстой юу?"

"Хүмүүст таашаал өгдөг зэрэг бүхий л ажлыг бид автомат машинд шилжүүлж өгөх ёстой юу?

"Ирээдүйд тоо болон оюуны чадвараар биднийг гүйцэж түрүүлж, биднийг үнэ цэнгүй болгож, биднийг орлож мэдэх хиймэл оюун ухааныг бид хөгжүүлэх ёстой юу?"

"Бид соёл иргэншлийнхээ хяналтыг алдах эрсдэл гаргах ёстой юу?"

Хиймэл оюун ухааны салбарын шинжээчид, төлөөлөгчдийн үзэж байгаагаар аюулгүй байдлыг хангах систем бүтээхэд зургаан сарын хугацаа хангалттай гэнэ. Энэ хугацаанд ямар нэг компани энэ хязгаарлалтыг хэрэгжүүлэх шаардлагыг биелүүлэхгүй бол дэлхийн улс орны засгийн газрууд хөндлөнгөөс оролцохыг шинжээчид уриалжээ.

Нээлттэй захидал бичсэн хүмүүс нь хиймэл оюун ухааны технологийн хөгжил хяналтгүй байгаад болгоомжилж байгаагаа илэрхийлсэн анхны хүмүүс биш юм.

ChatGPT зэрэг дэвшилтэт технологийг хэрэглэснээс үүдэх ёс зүйн болон хуульзүйн үр дагавартай холбоотойгоор санаа зовниж байгаагаа Европын холбооны цагдаагийн хэсэг болох Европол илэрхийлсэн бөгөөд эдгээр систем нь цахим гэмт хэрэг, хуурамч мэдээлэл тараах зэргээр төрөл бүрийн цахим луйвар хийхэд ашиглагдаж болзошгүйг өнгөрсөн даваа гарагт анхааруулж байв.

"Хиймэл оюун ухаан асар их боломжийг нээж, бид бүгдэд сайхан ирээдүйг бүтээхэд жинтэй хувь нэмэр оруулж чадна гэдгийг хүн бүр л ойлгож байгаа. Гэхдээ үүнтэй холбоотой эрсдэлүүдийг мартаж болохгүй. Хэт хамаарал, хуурамч мэдээлэл, тархи угаалт гарч болзошгүй, тиймээс эдгээр технологид хяналт тавих ёстой" хэмээн хувийн мэдээллийг хамгаалах салбарын мэргэжилтэн Ивана Бартолетти ВВС агентлагт ярьжээ.

Энд дуулгахад, ChatGPT чат бот нь хэрэглэгч амьд хүнтэй харилцаж байгаа мэт сэтгэгдэл төрөхүйц байдлаар хариултаа боловсруулдаг байна. Мөн энэ чат бот хэл ярианы төрөл бүрийн хэв маягийг ашиглах чадвартай аж. Харин энэ чат ботыг боловсруулагчдын анхааруулж байгаагаар, 2021 оноос хойш энэ системийн мэдлэгийн санг шинэчлээгүй тул ChatGPT нь 2021 оноос хойш болсон үйл явдал, үзэгдлийн талаарх хязгаарлагдмал төсөөлөлтэй, түүнчлэн зарим үед хиймэл оюун ухаан "хий юм төсөөлж" болзошгүй, өөрөөр хэлбэл бодит байдалд үл нийцэх хариулт өгөх, эсвэл логик алдаа гаргах магадлалтай гэнэ.

Г.Бямбасүрэн

http://www.shuud.mn/a/549251