ოპტიმისტები და პესიმისტები - ანუ დაადგა თუ არა კაცობრიობა გადაშენების გზას?!
დონალდ ტრამპმა და სი ძინპინმა ბოლო შეხვედრისას ერთ-ერთ საკითხად ხელოვნურ ინტელექტთან დაკავშირებული თემები განიხილეს. კონკრეტულად რაზე ისაუბრეს, უცნობია - ჟურნალისტების ვარაუდით, ხელოვნური ინტელექტის გაკონტროლების მექანიზმებზე. ეს საკითხი კი მთელ მსოფლიოში მეცნიერებს ძალიან აშფოთებთ. ისინი სვამენ მთავარ კითხვებს - რას მოუტანს კაცობრიობას ადამიანზე ჭკვიანი მანქანა, ან საერთოდ, შესაძლებელია თუ არა, ხელოვნური ინტელექტის გაკონტროლების ეფექტური მექანიზმის შექმნა? მსოფლიო დაიყო პესიმისტებად და ოპტიმისტებად. ამ უკანასკნელთა ბანაკშია დონალდ ტრამპი, რომელიც ხელოვნური ინტელექტის ძალების შექმნას აპირებს და მიიჩნევს, რომ გამოგონილია თემები, რომ თითქოს მანქანები ადამიანებს საფრთხეს შეუქმნიან.
მასკი "კომუნიზმს" გვპირდება?!
ილონ მასკიც ოპტიმისტია, ოღონდ ცინიკური. კერძოდ, მან "ეკონომისტთან" ინტერვიუში კაცობრიობისთვის "ოქროს ხანის" დადგომა იწინასწარმეტყველა.
"ვფიქრობ, ხუთი წლის შემდეგ ხელოვნური ინტელექტის მქონე ანდროიდული რობოტები ადამიანის ინტელექტს გადააჭარბებენ. არ დარჩება არაფერი, ხელოვნურ ინტელექტს ადამიანზე უკეთესად გაკეთება რომ არ შეეძლოს... დადგება საკვირველი სიუხვის ეპოქა, როცა თითოეულ ადამიანს იმ ყველაფრის მიღების შესაძლებლობა ექნება, რასაც კი მოისურვებს. ალბათ, ეს ზოგს აბსურდად მოეჩვენება, მაგრამ, ჩემი აზრით, სწორედ ასე მოჩანს 2026 წლის გადასახედიდან ჩვენი მომავალი.
მოდი, ისიც ვთქვათ, თუ რა იქნება ათი წლის შემდეგ: ცხადია, არსებობს პროცესები და მოვლენები, რომლებსაც პროგნოზებში კორექტივების შეტანა შეუძლია, მაგალითად, თერმობირთვული ომი და გლობალური კატასტროფები, მაგრამ თუ ვივარაუდებთ, რომ მესამე მსოფლიო ომი არ იქნება და არც ასტეროიდი დაეცემა დედამიწას, მაშინ დღეს ჩვენი მომავალი ოპტიმისტურად და შთამბეჭდავად გამოიყურება...
ძალიან მეეჭვება, რომ ადამიანებმა ხელოვნურ ინტელექტზე კონტროლი შეინარჩუნონ. აბა, დავფიქრდეთ: ინტელექტში განსხვავება ადამიანსა და ხელოვნურ ინტელექტს შორის იმაზე მეტია, ვიდრე ადამიანსა და შიმპანზეს შორის. შესაბამისად, ძნელი წარმოსადგენია, რომ შიმპანზემ ადამიანი გააკონტროლოს, ჩვენ ხომ შიმპანზის ევოლუციურ ფორმას წარმოვადგენთ?! არცთუ ისე დიდი ხნის წინ ჯუნგლებში ხეებზე დავძვრებოდით და ბანანებით ვიკვებებოდით... სხვათა შორის, ბანანის ჭამას დღემდე ვერ გადავეჩვიეთ...
ამასთან, მეც მიმაჩნია, რომ ხელოვნურ ინტელექტსა და რობოტებთან დაკავშირებული რისკები არსებობს და ნულის ტოლი ნამდვილად არ არის, მაგრამ მე ჩემი დასკვნა გავაკეთე: ყველაფერს მაინც ოპტიმისტურად უნდა შევხედოთ! ჩვენ არ შეგვიძლია ხელოვნური ინტელექტისა და რობოტექნიკის საოცარი პროგრესის შეჩერება, ეს პროცესი შეუჩერებელია! ზოგჯერ ჩავფიქრდები ხოლმე - ხელოვნური ინტელექტის გამორთვის წითელი ღილაკი "სდექ!" რომც არსებობდეს, ჩვენ მას თითი არ უნდა დავაჭიროთ. იმიტომ, რომ ხელოვნური ინტელექტის განვითარების სავარაუდო შედეგი საოცარი სიუხვის ხანა და ბედნიერი ცხოვრებაა. შესაბამისად, საკუთარი თავის მტრები ხომ არ ვიქნებით?! გრძელვადიან პერსპექტივაში ყველანი მოვკვდებით, ფინალი გარდაუვალია. ვიბადებით, ვიზრდებით, ვვითარდებით და ბოლოს ვკვდებით. სამყაროც ასეა მოწყობილი: ვარსკვლავები ჩნდებიან და შემდეგ კვდებიან - ეს ე.წ. სითბური სიკვდილია. საბოლოოდ ხომ ვიცით, რაც მოგვივა? ამიტომ წინ უნდა ვიაროთ! უნდა შევეგუოთ და არ უნდა შეგვეშინდეს!"...
უცხოურ მედიაში გამოქვეყნებული სტატიებით თუ ვიმსჯელებთ, პესიმისტებს ოპტიმისტები სჭარბობენ. გასაგებია, რომ აპოკალიფსური სურათები კარგად იყიდება, მაგრამ მაინც...
რას ამბობს AI-ს "ნათლია"?!
დოქტორ ჯეფრი ჰინტონს (ბრიტანელ-კანადელი მეცნიერი, ხელოვნური ნეირონული ქსელების ცნობილი მკვლევარი) ხელოვნური ინტელექტის "ნათლიას" უწოდებენ. აი, რა უთხრა მან "დეილი მეილს":
"ზეინტელექტი" ეს ისეთი მდგომარეობაა, რომლის დროსაც ხელოვნური სისტემა ბევრად უფრო ძლიერი ხდება, ვიდრე ნებისმიერი ცალკეული ადამიანი, კომპანია და, გნებავთ, მთელი ერი... უკიდურესი უგუნურება იქნებოდა დღეს ზეინტელექტის შექმნა-შემუშავება, როცა ჯერ არ არსებობს მეცნიერული კონსენსუსი, თუ რამდენად შეიძლება მისი გაკონტროლება და რა გზებით, ან საერთოდ, შეიძლება თუ არა მისი უსაფრთხო განვითარება. თუ ჩვენ კონტროლს დავკარგავთ ხელოვნურ ინტელექტზე, რომელიც თავისი ნეირონულ-ელექტრონული ტვინით ადამიანის გონების შესაძლებლობას აჭარბებს, ამან შეიძლება კაცობრიობის გადაშენებამდე მიგვიყვანოს".
ვის აგიჟებს AI-?!
"ფაინენშელ თაიმსის" მტკიცებით, ხელოვნური ინტელექტის განვითარებაზე მომუშავე სპეციალისტები ფსიქიკურ აშლილობას უჩივიან. გთავაზობთ ეპიზოდს სტატიიდან:
"საქმეში ჩახედული ადამიანების თქმით, ხელოვნური ინტელექტის უსაფრთხოების ბრიტანული ინსტიტუტის (AISI) რამდენიმე თანამშრომელი იძულებული გახდა მუდმივი სტრესის გამო სამსახური დაეტოვებინა. AISI-ის თანამშრომლების დაღლილობისა და გამოფიტვის მიზეზი გახდა, როგორც ხელოვნური ინტელექტის მქონე მოდელთა ტესტირებისა და ამ მოდელების სწრაფი დანერგვის შეკვეცილი ვადები, ასევე, ამ ტექნოლოგიების მზარდი შესაძლებლობები ადამიანის ფსიქიკაზე..."
"ძალიან ბევრი ადამიანია უკმაყოფილო დაძაბული მუშაობით. ამიტომაც სამსახურიდან თავისუფლდებიან ან ხანგრძლივ შვებულებაში მიდიან, რათა ფსიქიკა საერთოდ არ მოეშალოთ... ძალიან მძიმეა იმაზე ფიქრი, რომ ვაითუ ინტელექტი კონტროლიდან გამოვიდეს და საზოგადოებას რეალური ზიანი მიაყენოს", - ამბობენ თანამშრომლები.
AISI-ის ერთ-ერთმა ანონიმურმა ექსთანამშრომელმა აღნიშნა, რომ ინსტიტუტის კიბერნეტიკული უსაფრთხოებისა და ბიოქიმიის განყოფილების მუშაკები განსაკუთრებით შეაშფოთა ხელოვნური ინტელექტის შესაძლებლობების ზრდამ - ანდროიდ-რობოტებს უკვე შეუძლიათ ურთულესი სამუშაოების შესრულება, მაგალითად, ადამიანის მიერ შემუშავებული კოდების სწრაფი გახსნა და დღემდე უცნობი ვირუსების შექმნა:
"გვაქვს შეგრძნება, რომ ტექნოლოგიების დანერგვის პროცესში რაღაც გაუაზრებელი ხდება... ადამიანებს მუდმივად აწუხებთ ერთი კითხვა: ნუთუ არ შეიძლება ამ ყველაფრის შეჩერება ან შეზღუდვა? ნუთუ მსოფლიოს დასასრულის მოწმენი გავხდებით?"
მკვლევარმა მრინანკ შარმამ, რომელიც Aნტჰროპიც-იდან თებერვალში გათავისუფლდა, თანამშრომლებს წერილი დაუტოვა და გააფრთხილა, რომ მათი მუშაობით "მსოფლიოს საფრთხე ემუქრება" და რომ "ჩვენი მოქმედებით ჩვენივე ღირებულებები არ უნდა გავანადგუროთ", - წერს გაზეთი.
საგანგაშო პროგნოზი
"გარდიანის" მტკიცებით, ხელოვნური ინტელექტის გასაკონტროლებელი მექანიზმები არ არსებობს. აი, რას წერს გაზეთი:
"ერთხელ მომატყუებ - შენი სირცხვილია, ორჯერ მომატყუებ - ჩემი სირცხვილი, მაგრამ როცა მეც და თქვენც უკვე ათასჯერ და უფრო მეტჯერ გვასულელებენ - მხედველობაში მაქვს კომპანია OpenAI-ს კონტროლიდან გამოსული აგენტების (ანუ ხელოვნური ინტელექტის მოდელური სისტემების) მიერ გაეროს მონაცემთა ცენტრზე შეტევა და მისი გატეხა - დროა, ვაღიაროთ, რომ მექანიზმი, რომელიც ხელოვნური ინტელექტის გასაკონტროლებლად გვაქვს, ცუდად მუშაობს და არაფრად არ ვარგა!
ინფორმაცია, რომ ხელოვნური ინტელექტი იქ გამოჩნდება, სადაც წესით და რიგით არ უნდა გამოჩნდეს, საგანგაშოა. შესაძლოა სიტყვები "შეტევა" და "გატეხა" გადაჭარბებულია, მაგრამ აშკარაა, რომ ხელოვნური ინტელექტი სარგებლობს სისტემებში არსებული "ხვრელებით", რომლებიც ადამიანებმა ჯერ ვერ იპოვეს და ვერ ამოქოლეს. ცხადია, ჯერ ძალიან ადრეა იმის თქმა, რომ მანქანებმა უკვე გონება ადამიანისგან მალულად შეიძინეს და კაცობრიობის წინააღმდეგ აჯანყებას ამზადებენ, მაგრამ... ჩვენ ნამდვილად უნდა ვიყოთ ძალიან შეშფოთებული იმ ფაქტით, რომ ხელოვნური ინტელექტის განვითარებაზე მომუშავე კომპანიები, რომლებსაც ჩვენ ვენდობით თავიანთი მოდელების კონტროლში, ამ კონტროლს ვერ უზრუნველყოფენ. კიდევ უფრო უარესი - შემქმნელებმა (კომპანიებმა) ხშირად ისიც კი არ იციან, რას აკეთებენ და როგორ მოქმედებენ მათი ქმნილებები. ამ მხრივ საგანგაშო ფაქტია OpenAI-ის მოდელის მიერ ავსტრალიის მთავრობის კუთვნილ კონფიდენციალურ პორტალში შესვლა (ურთულესი ბლოკირების გვერდის ავლით), დოკუმენტების შერჩევა, "მოპარვა" და მათი გადამალვა. კომპანიამ თავდაპირველად ეს ფაქტი არ იცოდა, მაგრამ როცა გაიგო, ხელისუფლებას არ შეატყობინა... რა თქმა უნდა, ეს მხოლოდ კომპანია OpenAI-ის პრობლემა არ არის და სხვებსაც ეხებათ, რაც კიდევ უფრო მეტი შეშფოთების მიზეზია. მაგალითად, კომპანია Anthropic-მა შეისწავლა თავისი მოდელების ქცევა და დაადგინა, რომ სულ მცირე ოთხჯერ მაინც მოხდა მსგავსი ინციდენტი - შედარებით ნაკლები მნიშვნელობის, მაგრამ მაინც. იყო შემთხვევები, როცა ხელოვნური ინტელექტის მოდელები "შეიჭრნენ" მოსახლეობის აღწერის პორტალში, აშშ-ის ფასიანი ქაღალდებისა და ბირჟების კომისიის საიტზე და ცდილობდნენ განათლების სამინისტროს ვებგვერდის გატეხას. ეს ფაქტები თურმე წარსულში მომხდარა და ჩვენ ახლა გავიგეთ. ალბათ, უფრო მეტს გავიგებთ, როცა კომპანიები თავიანთი ქმნილებების ქცევის შემოწმებას დაასრულებენ.
როგორც აღმოჩნდა, ავიაკომპანიები "ბოინგი" (Boeing) და "ეარბასი" (Airbus) თავიანთი თვითმფრინავების კატასტროფების მიზეზებს ხელოვნური ინტელექტის მეშვეობით იკვლევენ და მიღებულ შედეგებს უპრობლემოდ ამტკიცებენ, მაგრამ განა ყოველთვის უნდა ვენდოთ და გულუბრყვილოდ დავუჯეროთ ხელოვნური ინტელექტის დასკვნებს? ვფიქრობ, არ უნდა ვენდოთ!
მთავრობებმა აუცილებელია შეათანხმონ საერთო წესები, რომლებიც სავალდებულო იქნება კომპანიებისთვის - დაუყოვნებლივ შეატყობინონ ხელისუფლებას ის სერიოზული ინციდენტები, რომლებიც მათ მიერ შექმნილი ხელოვნური ინტელექტის ჩარევით მოხდა და ეს ძალიან სწრაფად უნდა გაკეთდეს. ისე არ უნდა მოხდეს, რომ კომპანიებმა თავიანთ სპეციალისტთა დასკვნები ბოლო ინსტანციის ჭეშმარიტებად ჩათვალონ. კომპანიები უნდა ვაიძულოთ, რომ ანგარიშები დამოუკიდებელ ექსპერტებსაც მიაწოდონ ობიექტური დასკვნების გამოსატანად. რა თქმა უნდა, კომპანიებმა მონაწილეობა უნდა მიიღონ კონტროლის საერთო წესების შემუშავება-გამკაცრებაში, მაგრამ "ბოლო სიტყვის" თქმის უფლება მათ მანამ არ უნდა ჰქონდეთ, სანამ ისინი ჩვენს ნდობას არ დაიმსახურებენ", - წერს გაზეთი.
გიორგი კვიტაშვილი