საგანგაშო პროგნოზი: ხელოვნური ინტელექტი კაცობრიობის წინააღმდეგ აჯანყებისთვის ემზადება?! - The Guardian
„როცა ხელოვნური ინტელექტი თავისი შემქმნელი კომპანიების კონტროლიდან საბოლოოდ გამოვა, თქვენ გჯერათ, რომ ისინი მას შეაჩერებენ? მე არ მჯერა და არც თქვენ არ დაიჯეროთ“ - ასეთი სათაური აქვს ბრიტანულ გაზეთ „გარდიანში“ (The Guardian) გამოქვეყნებულ სტატიას, რომლის ავტორია ქრის სტოკელ-უოკერი - ჟურნალისტი, რომელიც ხელოვნურ ინტელექტთან (AI - Artificial Intelligence) დაკავშირებულ პრობლემებს იკვლევს. „რაც დრო გადის, AI-ის მკაცრი რეგულირება სასიცოცხლოდ აუცილებელი ხდება. სანამ გვიან არ არის, ეს უნდა გავაკეთოთ“, - წერს ავტორი.
გთავაზობთ პუბლიკაციას შემოკლებით:
ერთხელ მომატყუებ - შენი სირცხვილია, ორჯერ მომატყუებ - ჩემი სირცხვილი. მაგრამ როცა მეც და თქვენც უკვე ათასჯერ და უფრო მეტჯერ გვასულელებენ - მხედველობაში მაქვს კომპანია „ოუფენ ეიაის“ (OpenAI) კონტროლიდან გამოსული აგენტების (ანუ ხელოვნური ინტელექტის მოდელური სისტემების) მიერ გაეროს მონაცემთა ცენტრზე შეტევა და მისი გატეხვა - დროა, ვაღიაროთ, რომ მექანიზმი, რომელიც ხელოვნური ინტელექტის გასაკონტროლებლად გვაქვს, ცუდად მუშაობს და არაფრად ვარგა.
ინფორმაციები, რომ ხელოვნური ინტელექტი იქ გამოჩნდება ხოლმე, სადაც წესით და რიგით არ უნდა გამოჩნდეს, საგანგაშოდ ჟღერს. შესაძლოა სიტყვები „შეტევა“ და „გატეხვა“ გადაჭარბებულია, მაგრამ აშკარაა, რომ ხელოვნური ინტელექტი სარგებლობს სისტემებში არსებული „ხვრელებით“, რომლებიც ადამიანებმა ჯერ ვერ იპოვეს და ვერ ამოქოლეს. ცხადია, ჯერ ძალიან ადრეა იმის თქმა, რომ მანქანებმა უკვე გონება ადამიანისგან ჩუმად შეიძინეს და კაცობრიობის წინააღმდეგ აჯანყებას ამზადებენ, მაგრამ...
მაგრამ ჩვენ ნამდვილად უნდა ვიყოთ ძალიან შეშფოთებულები იმ ფაქტით, რომ ხელოვნური ინტელექტის განვითარებაზე მომუშავე კომპანიები, რომლებსაც ჩვენ ვენდობით თავიანთი მოდელებისადმი კონტროლში, ამ კონტროლს ვერ უზრუნველყოფენ. უფრო უარესი - შემქმნელებმა (კომპანიებმა) ხშირად ისიც კი არ იციან, თუ რას აკეთებენ მათი ქმნილებები. ამ მხრივ საგანგაშო ფაქტია OpenAI-ის მიერ შექმნილი მოდელის მიერ ავსტრალიის მთავრობის კუთვნილ კონფიდენციალური პორტალში შესვლა (ურთულესი ბლოკირების გვერდით ავლით), დოკუმენტების შერჩევა, „მოპარვა“ და მათი გადამალვა. კომპანიამ თავდაპირველად ეს ფაქტი არ იცოდა, მაგრამ როცა გაიგო, ხელისუფლებას არ შეატყობინა.
რა თქმა უნდა, ეს მხოლოდ კომპანია OpenAI-ის პრობლემა არ არის და სხვებსაც ეხება, რაც კიდევ უფრო მეტი შეშფოთების გამომწვევია. მაგალითად, კომპანია Anthropic-მა შეისწავლა თავისი მოდელების „ქცევა“ და დაადგინა, რომ სულ მცირე ოთხჯერ მაინც მოხდა მსგავსი ინციდენტი - შედარებით ნაკლები მნიშვნელობის, მაგრამ მაინც. იყო შემთხვევები, რომ ხელოვნური ინტელექტის რიგი მოდელები „შეიჭრნენ“ მოსახლეობის აღწერის პორტალში, აშშ-ის ფასიანი ქაღალდებისა და ბირჟების კომისიის საიტზე და ცდილობდნენ განათლების სამინისტროს ვებ-გვერდის გატეხვას. სამწუხაროა, რომ ეს ფაქტები, თურმე, წარსულში მომხდარა და ჩვენ კი ახლა გავიგეთ. ალბათ, უფრო მეტს გავიგებთ, როცა კომპანიები თავიანთი ქმნილებების წარსული ქცევის შემოწმებას დაასრულებენ. (...)
როგორც აღმოჩნდა, ავიაკომპანიები „ბოინგი“ (Boeing) და „ეარბასი“ (Airbus) თავიანთი თვითმფრინავების კატასტროფების მიზეზებს ხელოვნური ინტელექტის მეშვეობით იკვლევენ და მიღებულ შედეგებს უპრობლემოდ ამტკიცებენ, მაგრამ განა ყოველთვის უნდა ვენდოთ და გულუბრყვილოდ დავუჯეროთ ხელოვნური ინტელექტის დასკვნებს? ვფიქრობ, რომ არ უნდა ვენდოთ. (...)
ასევე დაგაინტერესებთ: "თეთრი სახლის თავზე წითელი დროშა ფრიალებს" ანუ რა ხდებოდა დონალდ ტრამპისა და სი ძინპინის მოლაპარაკებების კულუარებში?! - The Guardian
"ამერიკა ხელოვნური ინტელექტის ძალებს ქმნის": აყენებს თუ არა საფრთხის ქვეშ ტრამპი მსოფლიოს?! - BBC
მთავრობებმა აუცილებელია შეათანხმონ საერთო წესები, რომლებიც სავალდებულო იქნება კომპანიებისათვის - დაუყონებლივ შეატყობინონ ხელისუფლებას ის სერიოზული ინციდენტები, რომლებიც მათ მიერ შექმნილი ხელოვნური ინტელექტის მონაწილეობით (ჩარევით) მოხდა და ეს ძალიან სწრაფად უნდა გაკეთდეს. ისე არ უნდა იყოს, რომ კომპანიებმა საკუთარ სპეციალისტთა დასკვნები ბოლო ინსტანციის ჭეშმარიტებად ჩათვალონ. კომპანიები უნდა ვაიძულოთ, რომ თავიანთი ანგარიშები გარეშე, დამოუკიდებელ ექსპერტებსაც მიაწოდონ, ობიექტური დასკვნების გამოსატანად. რა თქმა უნდა, კომპანიებმა მონაწილეობა უნდა მიიღონ კონტროლის საერთო წესების შემუშავება-გამკაცრებაში, მაგრამ „ბოლო სიტყვის“ თქმის უფლება მათ მანამ არ უნდა ჰქონდეთ, სანამ ისინი ჩვენს ნდობას არ დაიმსახურებენ.
სამწუხაროდ, ფული ყველაფერს წყვეტს: მართალია, OpenAI-მა, უსაფრთხოების თვალსაზრისით, ნებაყოფლობით გადადო თავისი მოდელის გატანა ბაზარზე, 2027 წლისათვის, მაგრამ, სამაგიეროდ, კომპანია „ანთროფიქი“ (Anthropic) წინ სრული სვლით მიდის და პოტენციურად მილიარდობით და ტრილიონობით დოლარის მიღების იმედი აქვს.
რასაკვირველია, კომპანიებს თავიანთი ინტერესები აქვთ. რა თქმა უნდა, ისინიც ქმნიან ბარიერებს თავიანთი „ნაშიერების“ გასაკონტროლებლად, მაგრამ როცა მათი რომელიმე მოდელი ბარიერს გადალახავს, კომპანია უკვე არაკომპეტენტური ხდება. ასეთ სიტუაციაში მთავრობა დაუყონებლივ უნდა ჩაერიოს.
მოამზადა სიმონ კილაძემ