OASI, პირველი საძიებო სისტემა, რომელმაც იპოვა ალგორითმები, რომლებსაც მთავრობები და კომპანიები იყენებენ მოქალაქეებზე

• შექმნილია Eticas Foundation– ის მიერ, სოციალური გავლენის ალგორითმების ობსერვატორია, OASI, აგროვებს ინფორმაციას ათობით ალგორითმიდან, რომლებიც გამოიყენება საჯარო ადმინისტრაციებისა და კომპანიების მიერ მთელს მსოფლიოში, რათა გაიგონ მეტი მათი სოციალური გავლენის შესახებ.
  
• მიზანი არის საზოგადოებისათვის ინფორმაციის მიწოდება როგორც მთავრობების, ასევე კომპანიის ალგორითმების შესახებ და იმის ცოდნა, თუ ვინ იყენებს მათ, ვინ ავითარებს მათ, რა საფრთხეებს წარმოადგენენ ისინი და თუ შემოწმებულია სხვა მახასიათებლებთან ერთად.

• ალგორითმის მიკერძოება და დისკრიმინაცია ჩვეულებრივ ხდება ასაკის, სქესის, რასის ან ინვალიდობის გათვალისწინებით, სხვა ღირებულებებთან ერთად, მაგრამ გამჭვირვალობის ზოგადი ნაკლებობის გამო, ჯერ კიდევ შეუძლებელია ვიცოდეთ მისი ყველა შედეგი დაზარალებულ ჯგუფებზე.

ფონდმა ეთიკასმა, არაკომერციულმა ორგანიზაციამ, რომელიც ხელს უწყობს ალგორითმების და ხელოვნური ინტელექტის (AI) სისტემების პასუხისმგებელ გამოყენებას, შექმნა სოციალური ზემოქმედების ალგორითმების ობსერვატორია (OASI). ეს ობსერვატორია აცნობს საძიებო სისტემას, რომ იცოდეს უფრო მეტი იმ ინსტრუმენტების შესახებ, რომლებიც იღებენ მნიშვნელოვან ავტომატიზირებულ გადაწყვეტილებებს მოქალაქეებზე, მომხმარებლებსა და მომხმარებლებზე მთელს მსოფლიოში.

ამჟამად, ორივე კომპანია და საჯარო ადმინისტრაცია ალგორითმების წყალობით ავტომატიზირებენ გადაწყვეტილებებს. თუმცა, მისი განვითარება და ამოქმედება არ მოყვება გარე ხარისხის კონტროლს და არც ისეთი გამჭვირვალეა, როგორიც უნდა იყოს, რაც მოსახლეობას დაუცველს ტოვებს. ამ საძიებო სისტემის საშუალებით ნებისმიერს შეუძლია გაიგოს მეტი ამ ალგორითმების შესახებ: ვინ შეიმუშავა ისინი, ვინ იყენებს მათ, გამოყენების სფეროს, შემოწმებულია თუ არა, მათი მიზნები თუ მათი სოციალური გავლენა და მათ მიერ წარმოქმნილი საფრთხეები.

ამ მომენტში, OASI აგროვებს 57 ალგორითმს, მაგრამ იმედოვნებს, რომ 100 მიაღწევს მომდევნო თვეებში. მათ შორის, 24 უკვე გამოიყენება აშშ – ში მთავრობისა და Big Tech კომპანიების მიერ. მაგალითად, ShotSpotter, ალგორითმის ინსტრუმენტი, რომელიც ოკლენდის პოლიციის დეპარტამენტმა გამოიყენა ხმის მონიტორინგის მიკროფონების საშუალებით იარაღის ძალადობის წინააღმდეგ საბრძოლველად და შესამცირებლად, ასევე ალგენიის ოლქის, პენსილვანიის მიერ გამოყენებული ბავშვთა პოტენციური ძალადობისა და უგულებელყოფის პროგნოზირების ალგორითმი. კორპორაციიდან კიდევ ერთი მაგალითია Rekognition, ამაზონის სახის ამოცნობის სისტემა, რომელიც შემოწმდა MIT Media Lab– ის მიერ 2019 წლის დასაწყისში და აღმოჩნდა, რომ მნიშვნელოვნად უარესი იყო ინდივიდის სქესის დადგენისას, თუ ისინი ქალი იყვნენ ან მუქი კანის.

ყველაზე გავრცელებული დისკრიმინაცია არის ასაკის, სქესის, რასის ან ინვალიდობის საფუძველზე, წარმოიქმნა უნებლიედ დეველოპერების მიერ, რომლებსაც არ გააჩნიათ სოციალურ -ეკონომიკური უნარ -ჩვევები ამ ტექნოლოგიის გავლენის გასაგებად. ამ თვალსაზრისით, ეს ინჟინრები შეიმუშავებენ ალგორითმებს მხოლოდ ტექნიკურ უნარებზე დაყრდნობით და ვინაიდან არ არსებობს გარე კონტროლი და როგორც ჩანს ის მუშაობს როგორც მოსალოდნელი იყო, ალგორითმი აგრძელებს სწავლას დეფიციტური მონაცემებისგან.

ზოგიერთი ალგორითმის ფუნქციონირების შესახებ გამჭვირვალობის არარსებობის გამო, Eticas Foundation, OASI– ის დაწყების გარდა, ავითარებს გარე აუდიტის პროექტს. პირველი არის VioGén, ალგორითმი, რომელიც ესპანეთის შინაგან საქმეთა სამინისტრომ გამოიყენა ქალებისთვის რისკის დასადგენად, რომლებიც ეძებენ დაცვას ოჯახში ძალადობის შემთხვევების შემდეგ. Eticas ჩაატარებს გარე აუდიტს საპირისპირო საინჟინრო და ადმინისტრაციული მონაცემების, ინტერვიუების, ანგარიშების ან დიზაინის სკრიპტების საშუალებით, რათა შეაგროვოს შედეგები მასშტაბურად. ეს ყველაფერი ამ ქალების დაცვის გაუმჯობესების შესაძლებლობების გამოვლენის მიზნით.

”მიუხედავად ალგორითმული კონტროლისა და აუდიტის მეთოდების არსებობისა, რათა უზრუნველყოს, რომ ტექნოლოგია პატივს სცემს მიმდინარე რეგულაციებს და ფუნდამენტურ უფლებებს, ადმინისტრაცია და მრავალი კომპანია კვლავ ყურს უგდებენ მოქალაქეებისა და დაწესებულებების გამჭვირვალობის მოთხოვნას,” - განაცხადა გემა გალდონმა, Eticas Foundation– ის დამფუძნებელმა. რა ”OASI– ს გარდა, რამდენიმე წლის შემდეგ, როდესაც ჩვენ შევიმუშავეთ ათზე მეტი აუდიტი კომპანიებისთვის, როგორიცაა Alpha Telefónica, გაერთიანებული ერების ორგანიზაცია, Koa Health ან ინტერ-ამერიკული განვითარების ბანკი, ჩვენ ასევე გამოვაქვეყნეთ გზამკვლევი ალგორითმული აუდიტის შესახებ რომ ნებისმიერს შეუძლია მათი შესრულება. მიზანი ყოველთვის არის ცნობიერების ამაღლება, გამჭვირვალობის უზრუნველყოფა და ტექნოლოგიებისადმი ნდობის აღდგენა, რაც თავისთავად არ უნდა იყოს მავნე. ”

ამ თვალსაზრისით, ალგორითმები, რომლებიც სწავლობენ მანქანათმცოდნეობის ტექნიკას, იყენებენ დიდი რაოდენობით ისტორიულ მონაცემებს, რათა „ასწავლონ“ მათ არჩევანის გაკეთება წარსული გადაწყვეტილებების საფუძველზე. როგორც წესი, ეს მონაცემები არ წარმოადგენს იმ სოციალურ -ეკონომიკურ და კულტურულ რეალობას, რომელზეც ისინი გამოიყენება, მაგრამ ხშირ შემთხვევაში ისინი ასახავს უსამართლო სიტუაციას, რომლის გამუდმებაც არ იგეგმება. ამგვარად, ალგორითმი ტექნიკურად მიიღებს "სწორ" გადაწყვეტილებებს მისი სწავლების მიხედვით, მიუხედავად იმისა, რომ რეალობა ის არის, რომ მისი რეკომენდაციები ან პროგნოზები მიკერძოებულია ან დისკრიმინაციული.

რეკლამა

ეთიკას ფონდის შესახებ

ფონდი Eticas მუშაობს ტექნიკურ სპეციფიკაციებად გადათარგმნის ის პრინციპები, რომლებიც ხელმძღვანელობს საზოგადოებას, როგორიცაა თანაბარი შესაძლებლობები, გამჭვირვალობა და დისკრიმინაციის თავიდან აცილება, რაც არის ტექნოლოგიები, რომლებიც იღებენ ავტომატიზირებულ გადაწყვეტილებებს ჩვენს ცხოვრებაზე. ის ეძებს ბალანსს სოციალური ღირებულებების შეცვლას შორის, უახლესი მიღწევების ტექნიკურ შესაძლებლობებსა და სამართლებრივ ჩარჩოს შორის. ამ მიზნით, ის ამოწმებს ალგორითმებს, ამოწმებს, რომ სამართლებრივი გარანტიები გამოიყენება ციფრულ სამყაროზე, განსაკუთრებით ხელოვნურ ინტელექტზე, და ინტენსიურ მუშაობას ატარებს ცნობიერების ამაღლებაში და პასუხისმგებლობის, ხარისხის ტექნოლოგიის საჭიროების გავრცელებაში.

გაუზიარე ეს სტატია: