Mîjareke din a girîng jî, em ji bîr dikin ku hişê çêkirî hemû daneyan ji behra înternetê digire. Lewra pirs û nivîsên me yên taybet an jî têkildarî tiştên taybet ên jiyana me jî li nav wê cîhana înternetê tên tomarkirin û dibin şûnpê û şûndestên me yên înternetê.
Hişê çêkirî (Artificial Intelligence – AI) di jiyana me ya rojane de roleke mezin dilîze. Ji asîstanên dengî yên mîna Sîrî û Alexa bigire heta chatbotên mîna ChatGPT û Grok, ev teknolojî di warê agahdarî, alîkarî û sohbetê de gelek sûdewer in. Lê belê, tevî pêşketinên mezin, hişê çêkirî/AI hîn jî bi pirsgirêkên micid ên weke hevnegirtina mantiqî û şaşiyên di bersiv û sohbetan de rû bi rû dimîne. Armanca vê gotarê ew e ku em bizanibin bê ka AI çawa dixebite û çima car caran şaşiyan dike, da ku em bikaribin bi awayekî baştir pê re têkiliyê deynin û sûdê jê werbigirin.
Şaşiyên di bersiv û sohbetên AIê de
Hevnegirtina mantiqî di AIê de tê wê wateyê ku bersivên Alê yan jî sohbet bi awayekî li dijî qaîdeyên mantiqî yan jî rastiyên cîhanê ne. AI bi gelemperî li ser bingeha modelên fêrbûna makîneyê (machine learning) tên avakirin ku bi milyonan daneyan tên perwerdekirin. Lê belê, ev dane car caran şaş an ne temam in û ji ber ku makîne/model jî weke mirovan nafikire şaşiyên mantiqî peyda dibin. Bêguman, şaşiyên AIê ne tenê hevnegirtin in. Li jêr hin ji wan ên sereke tên ravekirin:
- Hallucinations (Xeyalên çêkirî): AI agahiyên şaş çêdike ku wekî rast xuya dikin. Mînak, ger bipirse, “Kî serokê Amerîkayê yê 45emîn e?”, AI dikare bibêje, “Donald Trump” e. Rast e lê ger li ser dîroka wî ya şaş bipirse, dikare agahiyên çêkirî bide, mîna “Ew di sala 2020an de miriye” ku ev agahî şaş e.
- Bias (Pêşdarazî): AI ji daneyên perwerdeyê yên pêşdaraz bi bandor dibe. Mînak, di sohbetên derbarê ser kar de, AI dikare bibêje ku “Jin ji bo karên teknîkî ne guncav in”, ji ber ku daneyên kevn pêşdaraziyên civakî dihewînin.
- Wendakirina naverokê/kontekstê: Di sohbetên dirêj de, AI konteksta pêşîn wenda dike. Mînak, ger sohbet li ser fîlmekî be û paşê biguhere mijareke din, AI dikare bersivan bide ku bi kontekstê re ne têkildar in.
- Şaşiyên mantiqî di pirsên matematîk an zanistê de: AI car caran di hejmartinê de şaş dike. Mînak, di pirsa “2+2=?” de rast e lê di pirsên tevlihevtir de, mînak pirsên hevkêşeyî, dikare encamên şaş bide.
- Şaşiyên zimanî: Di zimanên kêm-daneyî de, mîna kurdî, AI dikare werger an bersivên şaş bide, ji ber ku daneyên perwerdeyê kêm in.
Ev şaşiyên di raporan de tên nîşandan, mîna Hugging Face an Meta AI, nîşan didin ku heta modelên wekî GPT-4 jî bi rêjeya 10-20% şaşiyan dikin.
Sedemên hevnegirtin û şaşiyan
Sedemên van pirsgirêkan gelek in û ew bi awayê avakirina AIê ve girêdayî ne:
Daneyên perwerdeyê: AI bi daneyên mezin tê perwerdekirin lê ev dane car caran şaş, kevn an bi pêşdaraz in. Mînak, di agahiyên ji înternetê tên wergirtin de gelek daneyên şaş hene.
Sînorên modelê: Modelên AI bi îhtimalkirinê dixebitin. Peyvên ku ew pêşbîn dikin li gorî îhtimalê, ne bi mantiqî ne.
Kêmbûna rêmkirina rast: AI weke mirovan “fêm” nake; ew tenê nimûneyan dubare dike. Ji ber vê yekê, di pirs û pirsgirêkên nû de, şaşiyan dike. Bersivên nerast dide.
Pirsgirêkên tevlihev: Di sohbetên dirêj de, bîra AI (memory) sînordar e û ew naverokê/kontekstê wenda dike. Carinan bersivên mirov bêje ”Tir li ku, das li ku” dide.
Pêşdaraziyên mirovî: Daneyên ku ji mirovan tên, pêşdaraziyên wan dihewînin û AI wan dubare dike. Ava serê kaniyê ji ku be ava coyê jî her wisa ye û carinan şêlûtir e jî.
Lêkolînerên weke Timnit Gebru û Yoshua Bengio, di gotarên xwe de li ser van sedeman rawestiyane û nîşan didin ku pêwîstî heye bi daneyên baştir û algoritmayên nûtir.
Ji bo baştir bê fêmkirin, li jêr hin mînak hene:
Hallucination: Sala 2023yan, ChatGPT agahiyeke şaş da li ser dîroka Teslayê û got ku Elon Musk sala 2010an miriye.
Hevnegirtin di sohbetê de: Bikarhêner dipirse, “Paytexta Fransayê kîjan e?” (Parîs), paşê “Çiqas dûr e ji Londonê?” AI dikare bersivek li ser bajarên din bide, ji ber wendakirina naverokê/kontekstê.
Bias: Google Bard di sohbetên derbarê jinan de pêşdarazî nîşan dan û ev ji daneyên înternetê tên. Lewra çavkaniyên Alê yên li ser înternetê tije paşverûtiyên li ser jinan in.
Şaşiya matematîkî: Ji bo pirsên mîna, “9.11 – 9.9 = ?”, hin AI bersivên şaş didin ji ber pirsgirêkên hejmartinê. Ev mînak ji ceribandinên bikarhêneran û raporan tên.
Helbet ji bo kêmkirina van pirsgirêkan, şirketên van makîneyan di nav lêgerînê de ne û gelek rêbaz têne ceribandin.
Ji ber van kêmasiyên hişê çêkirî, divê her daneya ji AIê hatî di ber çavan re bê derbaskirin. Ger na, dê bi wan şaşiyan ve bê pêşkêşkirin û ev jî dê bibe sedema şaş agahdarkirinê û her wisa hetikandina kesê pêşkêşvan jî. Ez bixwe di vî warî de bûme şahidê kêmasiyên bi vî rengî. Lewra ger alîkarî ji hişê çêkirî bê standin jî divê teqez daneyên Alê dayîn bi hûrgulî bên kontrolkirin.
Li aliyên din, derfetên hişê çêkirî didin çiqas bi kêrhatî bin jî mirovan tiral dikin û hizirîn û lêkolînê ji holê radikin. Niha ev yek ne xetereyek be jî di nav nivşên bê de dê ev xetere derkeve holê. Kesên nexêrxwaz bi vê rêyê dikarin hiş û mejiyan dîl bigirin û bikin xizmeta xwe û pergala xwe. Dema her tişt amade bê ber mirovan û ked neyê dayîn, biha û nirxê wê nayê zanîn. Tişta nirxê wê neyê zanîn bi erzanî tê dayîn û ev jî jiyan û giyana civakê ye, mixabin. Mînaka, armanca afirandina pere ya lîdyayiyan ew bû ku jiyana mirovan hêsantir bibe û ji mirovan re xizmetê bike, lê ji ber ku ketiye destê serdestan, îro mirov ji bo pere xizmetê dikin û bûne xulamê wî.
Bi van kêmasiyan re teoriyên li ser pêşeroja mirovan û AIê gelek tirsnak in. Ji ber taybetiyên makîneyan ên weke hest û ramanan tune ye û nirxandina wan dûrî rastiya mirovan e, sibe ev hêz di destê kê de be dikare robotên xweser çêbike û bi wan mirovan qir bike. Kesên teredîn/bihêrs û hem hêza siyasî hem jî hêza aborî di dest de û di serde jî xwediyê cîhaneke AIê bin, ma kî dikare pêşiyê lê bigire! Erê ev teorî ne lê ne dûrî aqilan e.
Helbet hişê çêkirî aliyên xwe yên gelek hêja û jîr jî hene. Zanebûnê ji bin yekdestî/tekela hinek kes û koman derdixe û dixe xizmeta civakê. Carinan zanebûneke bi lêkolîna roj an jî mehan di nav demjimêrekê de pêşkeşî mirovan dike. An jî ji bo hizreke mirov, dikare nivîseke sûdewertir û edebîtir binivîse. Dema berê cîhana înternetê bê moxil bû, bi Alê êdî mirov dikare zanînan moxil bike û ya ji mirov re hewce bîne ber destên xwe. Mînak, hindik be jî zanyariyên zanistî yên vê gotarê bi alîkariya AIê hatin berhevkirin.
Mîjareke din a girîng jî, em ji bîr dikin ku hişê çêkirî hemû daneyan ji behra înternetê digire. Lewra pirs û nivîsên me yên taybet an jî têkildarî tiştên taybet ên jiyana me jî li nav wê cîhana înternetê tên tomarkirin û dibin şûnpê û şûndestên me yên înternetê.
Weke encam, hevnegirtina mantiqî û şaşiyên di bersiv û sohbetên AIê de pirsgirêkên girîng in, lewra alîkarî jê standin rast be jî weke çavkaniyeke bingehîn esasgirtin ne rast e. Bi fêmkirina sedemên wan, em dikarin bi awayekî baştir bi AIê re têkilî deynin û sûdê baştir jê werbigirin. Di pêşerojê de, bi pêşketinên weke modelên mezintir û daneyên baştir, ev pirsgirêka bersivên şaş û dermantiqî dê kêm bibin. Lê heta niha, pêwîst e em AI wekî amûrekê bibînin, ne wekî çavkaniya rastiya temam. Her wisa divê ji bo danezanên derbarê me de paşê nebin teşqele û li me venegerin, em baldartir hişê çêkirî bi kar bînin û xwe tiral nekin. Em alîkariyê jê bistînin lê daneyên wê weke rastiyên nihayî esas negirin.
