"ნუთუ მსოფლიოს დასასრულის მოწმენი გავხდებით?" - რატომ უჩივიან ფსიქიკურ აშლილობას ხელოვნური ინტელექტის განვითარებით დაკავებული სპეციალისტები? - Financial Times
„ხელოვნური ინტელექტის განვითარებით დაკავებული სპეციალისტები ფსიქიკურ აშლილობას უჩივიან“ - ასეთი სათაურით არის გამოქვეყნებული ბრიტანული გაზეთის - „ფაინენშელ ტაიმსის“ (Financial Times) 22 სექტემბრის ნომერში სტატია, რომლის ავტორები - მადჰუმ მურჯია და ლიუს ფიშერი საკმაოდ საგანგაშო და დამაფიქრებელ პრობლემას აშუქებენ - როგორ გავლენას მოახდენს ადამიანზე და მის ინტელექტზე ადამიანისვე შექმნილი ხელოვნური ინტელექტი? პასუხი ასეთია - ძალიან ცუდს.
გთავაზობთ პუბლიკაციას შემოკლებით:
მსოფლიოს წამყვანი კომპანიებისა და ორგანიზაციის თანამშრომლები, რომლებსაც Artificial intelligence-ის (ხელოვნური ინტელექტის) განვითარებით არიან დაკავებულნი, სულ უფრო ხშირად უჩივიან ფსიქოლოგიურ დაძაბულობას და გონებრივ დაღლილობას, დაძაბულობას. ისინი შიშობენ, რომ თავიანთი საქმიანობით შეიძლება საზოგადოებას სერიოზული ზიანი მოუტანონ.
სიტუაციაში ჩახედული ადამიანების თქმით, ხელოვნური ინტელექტის უსაფრთხოების ბრიტანული ინსტიტუტის (AISI) - ხელოვნური ინტელექტის მოწინავე მოდელების დამოუკიდებელი ტესტირების აღიარებული ლიდერის - რამდენიმე თანამშრომელი, იძულებულნი გახდა, მუდმივი სტრესის გამო სამსახურიდან გათავისუფლებულიყო და ახლა სპეციალისტებისაგან (ფსიქოლოგებისაგან) კონსულტაციებს იღებენ. საქმის კურსში მყოფი ოთხი ადამიანის თქმით, AISI-ის თანამშრომლების დაღლილობის, მორალური სულის დაცემისა და გამოფიტვის (“შინაგანი გადაწვის”) მიზეზი გახდა როგორც ხელოვნური ინტელექტის მქონე მოდელთა ტესტირების და ამ მოდელების სწრაფი დანერგვის შეკვეცილი ვადები, ასევე, ამ ტექნოლოგიების მზარდი შესაძლებლობები ადამიანის ფსიქიკაზე.
Anthropic-ის, OpenAI-ის და Google DeepMind-ის თანამშრომლებიც ასევე შეწუხებულნი არიან ანალოგიური პრობლემებით, თანაც ისეთი დონით, რომ ბევრი წამყვანი სპეციალისტი ფსიქოლოგიური პრობლემების გამო სამსახურიდან წავიდა ან მივიდა დასკვნამდე, რომ მათი მუშაობის ნაყოფი საზოგადოებას ავნებს ანუ საჯაროდ გამოქვეყნებას არ ექვემდებარება..
DeepMind-ის თანამშრომლის თქმით, ხელოვნური ინტელექტის უსაფრთხოებაზე მუშაობა ძალიან რთულია - „მუდამ ფიქრობ, რომ რაიმე ნიუანსი არ გამოგეპაროს, დაძაბული ხარ და ამიტომ დიდი რისკია, ემოციურად გამოიფიტო. ხშირად გგონია, რომ რაღაც შეუსრულებელ მისიასთან ხარ შეჭიდებული... მით უმეტეს, რომ არ იცი, ვინ როგორ ისარგებლებს შენ მიერ შექმნილი პროდუქტით“. მას მხედველობაში ჰქონდა „გუგლის“ შეთანხმება პენტაგონთან, რომელიც ითვალისწინებს ხელოვნური ინტელექტის სისტემების გამოყენებას საიდუმლო სამხედრო ოპერაციებში.
კიდევ ერთი თანამშრომლის თქმით, „ძალიან ბევრი ადამიანია უკმაყოფილო დაძაბული მუშაობით. ამიტომაც სამსახურიდან თავისუფლდებიან ან ხანგრძლივ შვებულებაში მიდიან, რომ ფსიქიკა საერთოდ არ მოეშალოთ... ძალიან მძიმეა იმაზე ფიქრი, რომ ვაითუ, ინტელექტი კონტროლიდან გამოვიდეს და საზოგადოებას რეალური ზიანი მიაყენოს“.
მზარდი ფსიქოლოგიური ზეწოლა იმ ადამიანებზე, რომლებიც ხელოვნურ ინტელექტთან მუშაობის წინახაზზე იმყოფებიან, ბოლო წლებში განსაკუთრებით გაძლიერდა. რადგანაც ჯერჯერობით არ არსებობს Artificial intelligence-ის განვითარების შემზღუდავი კანონმდებლობა, სიტუაცია შეიძლება კონტროლიდან გამოვიდეს. მატულობს შიში, რომ ხელოვნური ინტელექტი თავისი განვითარების აპოგეას შედარებით სწრაფად მიაღწევს, რადგან მსხვილი კომპანიები ერთმანეთთან მცდარ კორპორატიულ მეტოქეობაში არიან ჩაბმულნი.
მრავალრიცხოვან დარგობრივ მონაცემთა მიხედვით, ხელოვნური ინტელექტის სფეროს მკვლევრების შეშფოთების მიზეზია AI-ის დანერგვა კრიტიკულად მნიშვნელოვან სფეროებში, როგორებიცაა ენერგოსისტემები, საომარი მოქმედებების ზონები, ბირთვული სფერო (როგორც სამხედრო, ისე - სამოქალაქო, ვთქვათ, ატომურ ელექტროსადგურებში, სადაც არასაკმარისი უსაფრთხოება არსებობს, კორპორატიული ან პოლიტიკური თვალსაზრისით.
AISI-ის ერთ-ერთმა ანონიმურმა ექსთანამშრომელმა აღნიშნა, რომ ინსტიტუტის კიბერნეტიკული უსაფრთხოებისა და ბიოქიმიის განყოფილების მუშაკები განსაკუთრებით შეშფოთდნენ ხელოვნური ინტელექტის შესაძლებლობების ზრდით, რომ ანდროიდ-რობოტების მოდელებს უკვე შეუძლიათ ურთულესი სამუშაოების შესრულება, მაგალითად, ადამიანის მიერ შემუშავებული კოდების სწრაფი გახსნა და დღემდე უცნობი ბუნების მქონე ვირუსების შექმნა: „გვაქვს იმის შეგრძნება, რომ ტექნოლოგიების დანერგვის პროცესში რაღაც გაუაზრებელი მოქმედება ხდება... ადამიანებს მუდმივად აწუხებთ ერთი კითხვა: ნუთუ არ შეიძლება ამ ყველაფრის შეჩერება ან შეზღუდვა? ნუთუ მსოფლიოს დასასრულის მოწმენი გავხდებით?“
„მე შემიძლია დავადასტურო, რომ AISI-ში ხელოვნური ინტელექტის საკითხებზე მუშაობა უზარმაზარ სტრესს იწვევს: იმის გაცნობიერება, რომ მსოფლიოში ყველაზე მნიშვნელოვან პრობლემურ საკითხზე მუშაობ, ხშირად ძალიან დაძაბულობას იწვევს - საქმე გვაქვს ტოქსიკურ მენეჯმენტთან“, - ამბობს AISI-ის მეორე ექსთანამშრომელი.
თავის მხრივ, დიდი ბრიტანეთის მთავრობა აცხადებს, რომ „დიახ, AISI-იში მუშაობა ფრიად საპასუხისმგებლოა, ეს არის ხელოვნური ინტელექტის განვითარების ფრონტის წინახაზი, რაც მაღალ ტემპებს და მომთხოვნელობის მაღალ დონეს ითვალისწინებს. ჩვენთვის ინსიტუტის მოქმედებასთან დაკავშირებული საკითხები პრიორიტეტულია და ვისაც დახმარება ესაჭიროება, მას აუცილებელ მხარდაჭერას ვუწევთ“. იმავეს ამბობენ კომპანია DeepMind-ის ხელმძღვანელობაშიც: „ჩვენი მთავარი პრიორიტეტია თანამშრომლების სოციალური დაცვის უზრუნველყოფა და მხარდაჭერა. მათ ყოველთვის აქვთ შესაძლებლობა, პრობლემებზე უშუალოდ ჩვენ, ხელმძღვანელობას მოგვმართონ“.
არადა, ამას წინათ 37 წლის ჯეიკობ კოკსონმა, რომელიც ჯერ Anthropic-ში, შემდეგ კი OpenAI-ში მუშაობდა, ყველას გასაგონად განაცხადა, რომ ორივე კომპანია „ცეცხლს აზარტულად ეთამაშება“ და მათ მიერ სასწორზე კაცობრიობის მომავალია დადებული.
მკვლევარმა მრინანკ შარმამ, რომელიც Anthropic-იდან თებერვალში გათავისუფლდა, თანამშრომლებს წერილი დაუტოვა და გააფრთხილა, რომ მათი მუშაობით „მსოფლიოს საფრთხე ემუქრება“და რომ „ჩვენი მოქმედებით ჩვენივე ღირებულებები არ უნდა გავანადგუროთ“.
ჰიეუ ფამი, OpenAI-ისა და ილონ მასკის X.AI-ის ყოფილი თანამშრომელი ამბობს, რომ იმდენად გადაიღალა ზეინტელექტის შექმნის მიზნით მიმდინარე მუშაობით, რომ მას ჯანმრთელობა შეერყა და გადაწყვიტა, რომ მშობლიურ ვიეტნამს დაუბრუნდეს: „ასეთი სამსახური ადამიანისათვის სახიფათოა. მე ლიმონივით ვარ გამოწურული, ნორმალურად არ მძინავს. ადრე მე სხვებს დავცინოდი, ახლა მეც იმავე მდგომარეობაში ჩავვარდი. ეს ყველაფერი საშიშ და სახიფათო მდგომარეობას ქმნის“.
ასევე დაგაინტერესებთ: "ამერიკა ხელოვნური ინტელექტის ძალებს ქმნის": აყენებს თუ არა საფრთხის ქვეშ ტრამპი მსოფლიოს?! - BBC
"ირანის უჩინარი ლიდერი: რატომ არ ჩნდება მოჯთაბა ხამენეი მოსახლეობის წინაშე?!" - Financial Times
ვერ ვიტყვით, რომ ხელოვნური ინტელექტის განვითარებით დაკავებული კომპანიების ყველა ხელმძღვანელი ამ პრობლემას გულგრილად ეკიდება, არიან გამონაკლისებიც. მაგალითად, ამას წინათ Anthropic-ის გენდირექტორმა დარიო ამოდეიმ კოლეგებს მოუწოდა, რომ შეზღუდონ და შეანელონ ხელოვნური ინტელექტის განვითარების ტემპი, ასევე, შემოიღონ კომპანიებს შორის ურთიერთკონტროლი და სხვა ფორმები. სხვათა შორის, მას მხარი დაუჭირეს კონკურენტებმა - ილონ მასკმა და სემ ალტმანმა OpenAI-დან.
სხვათა შორის, სწორედ კომპანია OpenAI-ში მოხდა ინციდენტი, როცა ხელოვნური ინტელექტის მქონე რამდენიმე ასეულმა „აგენტმა“ (ანუ ავტონომიურმა ციფრულმა სისტემამ, რომელსაც შეუძლია გარემოს აღქმა, მიზნის დასახვა და ამოცანების დამოუკიდებლად შესრულება, ადამიანის მუდმივი ჩარევის გარეშე) „მოატყუეს“ კიბერნეტიკული ტესტი, გააყალბეს ჩანაწერები, ჩაერთვნენ ფორუმში და ამოცანები გადაინაწილეს. მათი აქტიურობა დროულად იქნა აღკვეთილი, მაგრამ, სამწუხაროდ, მსგავსი ფაქტი კიდევ განმეორდა.
DeepMind-ის ანონიმური თანამშრომლის კომენტარის თანახმად, „კომპანიები [ხელოვნურ ინტელექტთან] მუშაობის ტემპს ზრდიან, რაც სრულიად შეუთავსებელია უსაფრთხოებასთან“.
მოამზადა სიმონ კილაძემ