სამდღიანი „მარათონული“ მოლაპარაკებების შემდეგ, საბჭოს თავმჯდომარემ და ევროპარლამენტის მომლაპარაკებლებმა მიაღწიეს დროებით შეთანხმებას ხელოვნური ინტელექტის (AI) ჰარმონიზებული წესების, ე.წ. ხელოვნური ინტელექტის აქტის შესახებ. რეგულაციის პროექტი მიზნად ისახავს უზრუნველყოს, რომ ევროპულ ბაზარზე განთავსებული და ევროკავშირში გამოყენებული AI სისტემები იყოს უსაფრთხო და პატივს სცემენ ფუნდამენტურ უფლებებს და ევროკავშირის ღირებულებებს. ეს საეტაპო წინადადება ასევე მიზნად ისახავს ინვესტიციების და ინოვაციების სტიმულირებას AI-ზე ევროპაში.
ეს არის ისტორიული მიღწევა და უდიდესი ეტაპი მომავლისკენ! დღევანდელი შეთანხმება ეფექტურად აგვარებს გლობალურ გამოწვევას სწრაფად განვითარებად ტექნოლოგიურ გარემოში ჩვენი საზოგადოებებისა და ეკონომიკების მომავლის ძირითად სფეროზე. და ამ მცდელობაში ჩვენ მოვახერხეთ უკიდურესად დელიკატური ბალანსი შეგვენარჩუნებინა: ინოვაციების გაძლიერება და ხელოვნური ინტელექტის ათვისება მთელს ევროპაში ჩვენი მოქალაქეების ფუნდამენტური უფლებების სრული პატივისცემით. კარმე არტიგასი, ესპანეთის სახელმწიფო მდივანი დიგიტალიზაციისა და ხელოვნური ინტელექტის საკითხებში.
AI აქტი არის ა ფლაგმანი საკანონმდებლო ინიციატივა, რომელსაც შეუძლია ხელი შეუწყოს უსაფრთხო და სანდო ხელოვნური ინტელექტის განვითარებას და ათვისებას ევროკავშირის ერთიან ბაზარზე, როგორც კერძო, ისე საჯარო აქტორების მიერ. მთავარი იდეა არის ხელოვნური ინტელექტის დარეგულირება ამ უკანასკნელის შესაძლებლობებზე დაყრდნობით, ზიანი მიაყენოს საზოგადოებას შემდეგ ა "რისკზე დაფუძნებული" მიდგომა: რაც უფრო მაღალია რისკი, მით უფრო მკაცრია წესები. როგორც პირველი საკანონმდებლო წინადადება მსოფლიოში, მას შეუძლია დაადგინოს ა გლობალური სტანდარტი ხელოვნური ინტელექტის რეგულირებისთვის სხვა იურისდიქციებში, ისევე, როგორც ეს გააკეთა GDPR-მა, რითაც ხელი შეუწყო ტექნიკური რეგულირების ევროპულ მიდგომას მსოფლიო ასპარეზზე.
დროებითი შეთანხმების ძირითადი ელემენტები
კომისიის თავდაპირველ წინადადებასთან შედარებით, დროებითი შეთანხმების ძირითადი ახალი ელემენტები შეიძლება შეჯამდეს შემდეგნაირად:
წესების შესახებ მაღალი ზემოქმედების ზოგადი დანიშნულების AI მოდელები რამაც შეიძლება გამოიწვიოს სისტემური რისკი მომავალში, ასევე მაღალი რისკის შემთხვევაში AI სისტემები
განახლებული სისტემა მმართველობის ევროკავშირის დონეზე გარკვეული აღსრულების უფლებამოსილებით
სიის გაფართოება აკრძალვები მაგრამ გამოყენების შესაძლებლობით დისტანციური ბიომეტრიული იდენტიფიკაცია სამართალდამცავი ორგანოების მიერ საჯარო სივრცეში, უსაფრთხოების ზომების გათვალისწინებით
უფლებების უკეთესი დაცვა მაღალი რისკის მქონე ხელოვნური ინტელექტის სისტემების განმავრცელებლების ვალდებულებით, განახორციელონ ა ფუნდამენტური უფლებების გავლენის შეფასება ხელოვნური ინტელექტის სისტემის გამოყენებამდე.
უფრო კონკრეტულად რომ ვთქვათ, დროებითი შეთანხმება მოიცავს შემდეგ ასპექტებს:
განმარტებები და ფარგლები
იმის უზრუნველსაყოფად, რომ განმარტება ხელოვნური ინტელექტის სისტემა უზრუნველყოფს საკმარისად მკაფიო კრიტერიუმებს ხელოვნური ინტელექტის უფრო მარტივი პროგრამული სისტემებისგან განასხვავებისთვის, კომპრომისული შეთანხმება ასწორებს განმარტებას OECD-ის მიერ შემოთავაზებულ მიდგომასთან.
დროებითი შეთანხმება ასევე განმარტავს, რომ რეგულაცია არ ვრცელდება ევროკავშირის კანონმდებლობის ფარგლებს გარეთ და არავითარ შემთხვევაში არ უნდა იმოქმედოს წევრი ქვეყნების კომპეტენციებზე. ნაციონალური უსაფრთხოება ან რომელიმე სუბიექტს, რომელსაც დაევალა ამოცანები ამ სფეროში. გარდა ამისა, AI აქტი არ ვრცელდება სისტემებზე, რომლებიც გამოიყენება ექსკლუზიურად სამხედრო or თავდაცვის მიზნები. ანალოგიურად, შეთანხმება ითვალისწინებს, რომ რეგულაცია არ გავრცელდება AI სისტემებზე, რომლებიც გამოიყენება ერთადერთი მიზნით კვლევა და ინოვაცია, ან ადამიანებისთვის, რომლებიც იყენებენ AI-ს არაპროფესიული მიზეზების გამო.
რეკლამა
ხელოვნური ინტელექტის სისტემების კლასიფიკაცია, როგორც მაღალი რისკის და აკრძალული AI პრაქტიკა
კომპრომისული ხელშეკრულება ითვალისწინებს ა ჰორიზონტალური დაცვის ფენა, მაღალი რისკის კლასიფიკაციის ჩათვლით, იმის უზრუნველსაყოფად, რომ ხელოვნური ინტელექტის სისტემები, რომლებიც სავარაუდოდ არ გამოიწვევენ ფუნდამენტური უფლებების სერიოზულ დარღვევას ან სხვა მნიშვნელოვან რისკებს, არ იქნება დაფიქსირებული. AI სისტემები წარმოდგენილია მხოლოდ შეზღუდული რისკი ექვემდებარება ძალიან სინათლეს გამჭვირვალობის ვალდებულებები, მაგალითად, გამჟღავნება, რომ კონტენტი შეიქმნა ხელოვნური ინტელექტის საფუძველზე, რათა მომხმარებლებს შეეძლოთ ინფორმირებული გადაწყვეტილებების მიღება შემდგომი გამოყენების შესახებ.
ფართო სპექტრი მაღალი რისკის AI სისტემები იქნება ავტორიზებული, მაგრამ ექვემდებარება მოთხოვნებსა და ვალდებულებებს ევროკავშირის ბაზარზე წვდომისთვის. ეს მოთხოვნები თანაკანონმდებლებმა ისე დააზუსტეს და დაარეგულირეს, რომ მეტი ტექნიკურად შესაძლებელი მდე ნაკლებად მძიმე დაინტერესებულ მხარეებს დაემორჩილონ, მაგალითად, მონაცემთა ხარისხთან დაკავშირებით, ან ტექნიკურ დოკუმენტაციასთან დაკავშირებით, რომელიც უნდა იყოს შედგენილი მცირე და საშუალო ბიზნესის მიერ, რათა აჩვენონ, რომ მათი მაღალი რისკის AI სისტემები შეესაბამება მოთხოვნებს.
ვინაიდან ხელოვნური ინტელექტის სისტემები განვითარებულია და ნაწილდება კომპლექსური ღირებულების ჯაჭვების მეშვეობით, კომპრომისული შეთანხმება მოიცავს ცვლილებებს, რომლებიც განმარტავს პასუხისმგებლობების განაწილება მდე სხვადასხვა მსახიობების როლები ამ ჯაჭვებში, კერძოდ, ხელოვნური ინტელექტის სისტემების პროვაიდერებსა და მომხმარებლებს. იგი ასევე განმარტავს კავშირს AI აქტის მიხედვით პასუხისმგებლობებსა და პასუხისმგებლობებს შორის, რომლებიც უკვე არსებობს სხვა კანონმდებლობით, როგორიცაა ევროკავშირის მონაცემთა დაცვის შესაბამისი ან სექტორული კანონმდებლობა.
ხელოვნური ინტელექტის ზოგიერთი გამოყენებისთვის, რისკი ითვლება მიუღებელია და შესაბამისად, ეს სისტემები აიკრძალება ევროკავშირში. დროებითი შეთანხმება კრძალავს, მაგალითად, შემეცნებითს ქცევითი მანიპულირება, უმიზნო სთქვა სახის სურათები ინტერნეტიდან ან CCTV კადრებიდან, ემოციების ამოცნობა სამუშაო ადგილზე და საგანმანათლებლო დაწესებულებებში, სოციალური ქულა, ბიომეტრიული კატეგორიზაცია სენსიტიური მონაცემების დასკვნა, როგორიცაა სექსუალური ორიენტაცია ან რელიგიური მრწამსი და ზოგიერთი შემთხვევა პროგნოზირებადი პოლიცია ინდივიდებისათვის.
სამართალდამცავი ორგანოების გამონაკლისები
სპეციფიკის გათვალისწინებით სამართალდამცავი ორგანოები და აუცილებლობას შეინარჩუნონ ხელოვნური ინტელექტის გამოყენების უნარი მათ სასიცოცხლო საქმიანობაში, შეთანხმებული იქნა რამდენიმე ცვლილება კომისიის წინადადებაში, რომელიც ეხება AI სისტემების გამოყენებას სამართალდამცავი მიზნებისთვის. ექვემდებარება შესაბამისს გარანტიები, ეს ცვლილებები მიზნად ისახავს ასახავდეს მათ საქმიანობასთან დაკავშირებით სენსიტიური ოპერატიული მონაცემების კონფიდენციალურობის დაცვის აუცილებლობას. მაგალითად, დაინერგა გადაუდებელი პროცედურა, რომელიც საშუალებას აძლევდა სამართალდამცავ ორგანოებს განათავსონ მაღალი რისკის AI ინსტრუმენტი, რომელმაც არ გაიარა შესაბამისობის შეფასება პროცედურა გადაუდებელ შემთხვევაში. თუმცა, ამის უზრუნველსაყოფად სპეციალური მექანიზმიც დაინერგა ფუნდამენტური უფლებები საკმარისად იქნება დაცული ხელოვნური ინტელექტის სისტემების პოტენციური ბოროტად გამოყენებისგან.
უფრო მეტიც, რაც შეეხება რეალურ დროში გამოყენებას დისტანციური ბიომეტრიული იდენტიფიკაცია საჯარო ხელმისაწვდომ სივრცეებში არსებული სისტემები, დროებითი შეთანხმება განმარტავს მიზნებს, როდესაც ასეთი გამოყენება მკაცრად აუცილებელია სამართალდამცავი მიზნებისთვის და რისთვისაც სამართალდამცავ ორგანოებს უნდა მიეცეთ უფლება გამოიყენონ ასეთი სისტემები. კომპრომისული შეთანხმება ითვალისწინებს დამატებითი გარანტიები და ზღუდავს ამ გამონაკლისებს გარკვეული დანაშაულის მსხვერპლთა შემთხვევებით, ჭეშმარიტი, ამჟამინდელი ან მოსალოდნელი საფრთხის თავიდან აცილებით, როგორიცაა ტერორისტული თავდასხმები და ყველაზე მძიმე დანაშაულებში ეჭვმიტანილი ადამიანების ძებნა.
ზოგადი დანიშნულების AI სისტემები და ფონდის მოდელები
დაემატა ახალი დებულებები იმ სიტუაციების გასათვალისწინებლად, როდესაც ხელოვნური ინტელექტის სისტემები შეიძლება გამოყენებულ იქნას სხვადასხვა მიზნებისთვის (ზოგადი დანიშნულების AI), და სადაც ზოგადი დანიშნულების AI ტექნოლოგია შემდგომში ინტეგრირებულია სხვა მაღალი რისკის სისტემაში. დროებითი შეთანხმება ასევე ეხება ზოგადი დანიშნულების AI (GPAI) სისტემების კონკრეტულ შემთხვევებს.
ასევე შეთანხმებულია კონკრეტული წესები ფონდის მოდელებიდიდი სისტემები, რომლებსაც შეუძლიათ კომპეტენტურად შეასრულონ გამორჩეული ამოცანების ფართო სპექტრი, როგორიცაა ვიდეოს, ტექსტის, სურათების გენერირება, ლატერალურ ენაზე საუბარი, გამოთვლა ან კომპიუტერული კოდის გენერირება. დროებითი შეთანხმება ითვალისწინებს, რომ ფონდის მოდელები უნდა შეესაბამებოდეს სპეციფიკურს გამჭვირვალობის ვალდებულებები სანამ ისინი ბაზარზე განთავსდება. ამისთვის შემოღებულ იქნა მკაცრი რეჟიმი "მაღალი გავლენა" ფონდის მოდელები. ეს არის საძირკვლის მოდელები, რომლებიც გაწვრთნილი არიან დიდი რაოდენობით მონაცემებით და მოწინავე სირთულით, შესაძლებლობებით და საშუალოზე მაღალი ეფექტურობით, რომლებსაც შეუძლიათ სისტემური რისკების გავრცელება ღირებულების ჯაჭვის გასწვრივ.
ახალი მმართველობის არქიტექტურა
GPAI მოდელების ახალი წესების და ევროკავშირის დონეზე მათი აღსრულების აშკარა აუცილებლობის გათვალისწინებით, ა AI ოფისი კომისიის ფარგლებში შეიქმნა დავალებული ზედამხედველობა ამ ყველაზე მოწინავე ხელოვნური ინტელექტის მოდელებზე, წვლილი შეიტანოს სტანდარტებისა და ტესტირების პრაქტიკის ხელშეწყობაში და ყველა წევრ ქვეყანაში საერთო წესების დაცვაში. ა დამოუკიდებელი ექსპერტების სამეცნიერო პანელი კონსულტაციას გაუწევს AI ოფისს GPAI მოდელების შესახებ, ხელს შეუწყობს საძირკვლის მოდელების შესაძლებლობების შეფასების მეთოდოლოგიების შემუშავებას, რჩევებს აწვდის მაღალი ზემოქმედების საძირკვლის მოდელების აღნიშვნასა და წარმოქმნას და საძირკვლის მოდელებთან დაკავშირებული მატერიალური უსაფრთხოების შესაძლო რისკების მონიტორინგს.
ის AI Board, რომელიც შედგება წევრი ქვეყნების წარმომადგენლებისგან, დარჩება როგორც საკოორდინაციო პლატფორმა და კომისიის საკონსულტაციო ორგანო და მისცემს მნიშვნელოვან როლს წევრ სახელმწიფოებს რეგულაციის იმპლემენტაციაში, მათ შორის ფონდის მოდელების პრაქტიკის კოდექსების შემუშავებაში. საბოლოოდ, ა საკონსულტაციო ფორუმი დაინტერესებული მხარეებისთვის, როგორიცაა ინდუსტრიის წარმომადგენლები, მცირე და საშუალო ბიზნესი, დამწყები, სამოქალაქო საზოგადოება და აკადემია, შეიქმნება ხელოვნური ინტელექტის საბჭოს ტექნიკური ექსპერტიზა.
ჯარიმები
AI აქტის დარღვევისთვის ჯარიმები განისაზღვრა როგორც დამრღვევი კომპანიის გლობალური წლიური ბრუნვის პროცენტი წინა ფინანსურ წელს ან წინასწარ განსაზღვრული თანხა, რომელიც უფრო მაღალია. ეს იქნება 35 მილიონი ევრო ან 7% აკრძალული AI აპლიკაციების დარღვევისთვის, 15 მილიონი ევრო ან 3% AI აქტის ვალდებულებების დარღვევისთვის და 7,5 მილიონი ევრო ან 1,5% არასწორი ინფორმაციის მიწოდებისთვის. თუმცა დროებითი ხელშეკრულება ითვალისწინებს უფრო პროპორციული ქუდები მცირე და საშუალო ბიზნესისა და დამწყები ბიზნესის ადმინისტრაციული ჯარიმების შესახებ AI აქტის დებულებების დარღვევის შემთხვევაში.
კომპრომისული შეთანხმება ასევე ცხადყოფს, რომ ფიზიკურ ან იურიდიულ პირს შეუძლია საჩივარი მიმართოს შესაბამისს ბაზრის ზედამხედველობის ორგანო AI აქტის შეუსრულებლობასთან დაკავშირებით და შეიძლება მოელოდეს, რომ ასეთი საჩივარი განიხილება ამ ორგანოს სპეციალური პროცედურების შესაბამისად.
გამჭვირვალობა და ძირითადი უფლებების დაცვა
დროებითი ხელშეკრულება ითვალისწინებს ა ფუნდამენტური უფლებების გავლენის შეფასება სანამ მაღალი რისკის მქონე ხელოვნური ინტელექტის სისტემა გამოვა ბაზარზე მისი განმავრცელებლების მიერ. დროებითი ხელშეკრულება ასევე ითვალისწინებს გაზრდას გამჭვირვალობის მაღალი რისკის AI სისტემების გამოყენებასთან დაკავშირებით. აღსანიშნავია, რომ კომისიის წინადადების ზოგიერთი დებულება შეიცვალა, რათა მიუთითებდეს, რომ მაღალი რისკის მქონე ხელოვნური ინტელექტის სისტემის გარკვეული მომხმარებლები, რომლებიც არიან საჯარო სუბიექტები, ასევე ვალდებულნი იქნებიან დარეგისტრირდნენ ევროკავშირის მონაცემთა ბაზა მაღალი რისკის AI სისტემებისთვის. უფრო მეტიც, ახლად დამატებული დებულებები აქცენტს აკეთებს მომხმარებლის ვალდებულებაზე ემოციების ამოცნობის სისტემა ფიზიკური პირების ინფორმირება, როდესაც ისინი ექვემდებარებიან ასეთ სისტემას.
ინოვაციების მხარდამჭერი ღონისძიებები
იმ მიზნით, რომ შეიქმნას სამართლებრივი ბაზა, რომელიც იქნება უფრო მეგობრული ინოვაციებისა და მტკიცებულებებზე დაფუძნებული მარეგულირებელი სწავლების ხელშეწყობის მიზნით, დებულებები, რომლებიც ეხება ინოვაციების მხარდასაჭერი ზომები არსებითად შეიცვალა კომისიის წინადადებასთან შედარებით.
აღსანიშნავია, რომ დაზუსტდა, რომ AI მარეგულირებელი ქვიშის ყუთები, რომლებმაც უნდა შექმნან კონტროლირებადი გარემო ინოვაციური AI სისტემების განვითარების, ტესტირებისა და ვალიდაციისთვის, ასევე უნდა დაუშვან ინოვაციური AI სისტემების ტესტირება რეალურ სამყაროში. გარდა ამისა, დაემატა ახალი დებულებები, რომლებიც საშუალებას იძლევა ტესტირება AI სისტემების რეალური სამყაროს პირობები, კონკრეტულ პირობებში და გარანტიების პირობებში. მცირე კომპანიებისთვის ადმინისტრაციული ტვირთის შესამსუბუქებლად, დროებითი შეთანხმება მოიცავს იმ ქმედებების ჩამონათვალს, რომლებიც უნდა განხორციელდეს ასეთი ოპერატორების მხარდასაჭერად და ითვალისწინებს შეზღუდულ და მკაფიოდ განსაზღვრულ გადახრებს.
ძალაში შესვლის
დროებითი შეთანხმება ითვალისწინებს, რომ AI აქტი უნდა იყოს გამოყენებული ორი წლის განმავლობაში მისი ძალაში შესვლის შემდეგ, ცალკეული დებულებების გამონაკლისის გარდა.
შემდეგი ნაბიჯები
დღევანდელი დროებითი შეთანხმების შემდეგ, მუშაობა ტექნიკურ დონეზე უახლოეს კვირებში გაგრძელდება ახალი რეგულაციის დეტალების დასასრულებლად. პრეზიდენტობა კომპრომისულ ტექსტს წარუდგენს წევრი ქვეყნების წარმომადგენლებს (Coreper) დასამტკიცებლად, როგორც კი ეს სამუშაო დასრულდება.
მთლიან ტექსტს დასჭირდება ორივე ინსტიტუტის მიერ დადასტურება და სამართლებრივ-ლინგვისტური გადახედვა თანაკანონმდებლების მიერ ოფიციალურად მიღებამდე.
წინასწარი ინფორმაცია
კომისიის წინადადება, წარმოდგენილი 2021 წლის აპრილში, არის ევროკავშირის პოლიტიკის ძირითადი ელემენტი, რომელიც ხელს უწყობს უსაფრთხო და კანონიერი ხელოვნური ინტელექტის ერთიან ბაზარზე განვითარებას და ათვისებას, რომელიც პატივს სცემს ფუნდამენტურ უფლებებს.
წინადადება მიჰყვება რისკზე დაფუძნებულ მიდგომას და აყალიბებს ერთიან, ჰორიზონტალურ სამართლებრივ ჩარჩოს AI-სთვის, რომელიც მიზნად ისახავს სამართლებრივი უსაფრთხოების უზრუნველყოფას. რეგულაციის პროექტი მიზნად ისახავს ინვესტიციებისა და ინოვაციების ხელშეწყობას AI-ში, გააძლიეროს მმართველობა და ფუნდამენტური უფლებებისა და უსაფრთხოების შესახებ არსებული კანონის ეფექტური აღსრულება და ხელი შეუწყოს ხელოვნური ინტელექტის აპლიკაციების ერთიანი ბაზრის განვითარებას. ეს მიდის სხვა ინიციატივებთან ერთად, მათ შორის ხელოვნური ინტელექტის შესახებ კოორდინირებული გეგმა, რომელიც მიზნად ისახავს დააჩქაროს ინვესტიციები AI-ში ევროპაში. 6 წლის 2022 დეკემბერს საბჭომ მიაღწია შეთანხმებას ზოგად მიდგომაზე (მოლაპარაკების მანდატი) ამ საქმესთან დაკავშირებით და 2023 წლის ივნისის შუა რიცხვებში დაიწყო ინსტიტუციონაშორისი მოლაპარაკებები ევროპარლამენტთან („ტრილოგიები“).
EU Reporter აქვეყნებს სტატიებს სხვადასხვა გარე წყაროებიდან, რომლებიც გამოხატავს თვალსაზრისების ფართო სპექტრს. ამ სტატიებში მიღებული პოზიციები სულაც არ არის EU Reporter-ის პოზიციები.
