შეუძლია ჭკვიანური #AI სტრატეგია დაარწმუნოს ევროკავშირს, რომ #Facebook შინაარსის ზომიერებას ექნება საქმე?

17 თებერვალს, ბრიუსელში ევროპულ პოლიტიკოსებთან შეხვედრისას, Facebook– ის აღმასრულებელმა დირექტორმა მარკ ცუკერბერგმა (სურათები) გამოაქვეყნა თეთრი ფურცელი, რომელშიც ასახულია მისი სტრატეგია სოციალური მედიის პლატფორმებზე მავნე შინაარსის მოსაგვარებლად. საპასუხოდ ევროკავშირის სურვილი, რომ დაეხმაროს ტექნიკური სექტორის ზედამხედველობას, მილიარდერმა დაადგინა ის გარემოება, რომ ინდუსტრია რეგულირდება გლობალურ, ვიდრე ადგილობრივ დონეზე.

იგი ასევე ამტკიცებს, რომ ტექნიკური კომპანიების პასუხისმგებლობა მათ პლატფორმებზე მავნე შინაარსისთვის უნდა იყოს შეზღუდული - სანამ მათ გააჩნიათ ეფექტური შინაარსის მოდერაციის სისტემები. ცუკერბერგის შემოთავაზებებმა, ბრიუსელში, ნამდვილად მიიღო ყინვაგამძლე მიღება. ცუკერბერგთან შეხვედრის შემდეგაც, ევროკავშირმა აღნიშნა, რომ ფეისბუკის ახალი შინაარსის მოდერაციის წინადადება ბევრ ფრონტზე დაეცა, განსაკუთრებით კი ვერ იქნა განსაზღვრული ის კონკრეტული ნაბიჯები, რომლებიც პლატფორმას გადადგებოდა უკანონო შინაარსის წინააღმდეგ ბრძოლის მიზნით. "Ეს არ არის საკმარისი. ეს ძალიან ნელია, პასუხისმგებლობისა და რეგულირების თვალსაზრისით ძალიან დაბალია, ”- განუცხადა მონაცემთა სტრატეგიის კომისარმა ტიერი ბრეტონმა Facebook– ის ხელმძღვანელ პირთან შეხვედრის შემდეგ.

სად მცირდება Facebook– ის ამჟამინდელი სისტემა?

ტექნიკურ გიგანტებს აქვთ საკმაოდ ვიწრო ფანჯარა, რომლითაც დაარწმუნებენ ევროპელი პოლიტიკოსები, რომ საკუთარი ძალისხმევა პრობლემური შინაარსის მოსაგვარებლად საკმარისია. კომისიის ციფრული სერვისების შესახებ კანონის თანახმად, ევროკავშირის 20-წლიანი ელექტრონული კომერციის დირექტივის დიდი ხნის ნანატრი გადასინჯვა დაგეგმილია ამ წლის ბოლოს. როგორც ბრეტონმა აღნიშნა, ”თუ ჩვენ ვხედავთ, რომ [Facebook- ის საკუთარი პროცესის შინაარსის მოდერაციისთვის] არ არის ის, რაც ჩვენ გვჭირდება საკუთარი სტანდარტების გათვალისწინებით, ჩვენ მოგიწევს მოწესრიგება და ამას მოვათავსებთ ჩვენს [ციფრული სერვისების შესახებ აქტში]”.

ფეისბუქში დადგენილია, რომ მას შეუძლია თავად მოაგვაროს შინაარსის ზომიერების პრობლემა, ხელოვნური ინტელექტის (AI) და წინსვლის საშუალებით, წინსვლაში არსებული სისტემის გამოყენებით. პრობლემური მასალის ამოცნობისა და ამოღების რთული ამოცანა ამჟამად გადაცემულია მესამე მხარის პროფესიონალებისთვის, რომლებიც იყენებენ თავიანთი შეხედულებისამებრ იმის დასადგენად, თუ რატომ არის გამოსახულება ან ვიდეო სადავო.

ამგვარი ადამიანის ზედამხედველობასთან დაკავშირებული ნდობა პრობლემურია იმის გათვალისწინებით, რომ შინაარსის ზოგიერთი მოდერატორი ძალისმიერია გადაადგილების გზით, რადგან ლისაბონში, დუბლინსა და ვარშავაში ფეისბუქზე მოდერატორულმა თანამშრომლებმა დაადასტურეს, რომ მათმა შრომამ მათ PTSD მისცა, დარწმუნებულია, რომ აიღებენ წითელ დროშებს. ევროპულ ინსტიტუტებში. გარდა ამისა, ადამიანის ზომიერების ეფექტურობა ეჭვქვეშ დააყენა მას შემდეგ, რაც Facebook– მ არაერთხელ ვერ შეძლო მავნე შინაარსის სწრაფად ამოღება, მაგალითად, კრისტჩურჩის მეჩეთის თავდასხმის 2019 წლის პირდაპირი გადაცემა.

AI– ს შეუძლია ფეისბუქის რამდენიმე ბრმა ლაქა

რეკლამა

ხელოვნურ ინტელექტს აქვს პოტენციალი მნიშვნელოვნად შეამციროს ასეთი დამოკიდებულება ადამიანის ზომიერებაზე. მანქანათმცოდნეობის მიერ მომზადებულ ალგორითმებს შეუძლიათ ხელი შეუწყონ მოდერატორებს არა მხოლოდ შეამცირონ მათი მავნე ონლაინ შინაარსზე, არამედ მათი პროდუქტიულობა და სიზუსტე. ფეისბუქის განცხადებით, პერსპექტიული შედეგების შედეგი დაფიქსირდა AI– ს ექსპერიმენტებთან დაკავშირებით, — პლატფორმის თანახმად, 2019 წლის მეორე ნახევრის განმავლობაში პლატფორმამ მოახერხა გრაფიკული შინაარსის 99.8%, ხოლო სიშიშვლისა და ბავშვების ექსპლუატაციის 99.5% –ის დროშის აღნიშვნა, სანამ მომხმარებლებმა მოახდინეს მათი სიგნალიზაცია. . რა თქმა უნდა, ტექნოლოგიას ჯერ კიდევ სჭირდება დასრულების შინაარსის მოდერაციის ალგორითმები, რომელიც დაფუძნებულია AI- ს, მაგრამ ის განსაკუთრებით იბრძვის სიძულვილის ენის ნიუანსების აღიარებასთან დაკავშირებით, მაგალითად, ევროპულ კავშირში.

უფრო მეტიც, ევროკავშირი ფრთხილია, რომ Facebook– ზე თავისუფალი მმართველობა მისცეს ისეთი მგრძნობიარე ტექნოლოგიის, როგორიცაა AI. ეს შეშფოთება, პირველ რიგში, Facebook– ის ცუდი შედეგების შედეგია, ევროპაში გამჭვირვალეობის სტანდარტებთან შესაბამისობაში მოქცევისაკენ - იმის შესახებ, რომ კომპანიამ შესაძლოა შეიმუშაოს „შავი ყუთის ალგორითმები“, რომელიც ხელს უშლის მესამე მხარის ან მთავრობის აუდიტს ამ პლატფორმაზე.

ციფრული პოლიტიკის გათვალისწინებით, რომელიც გასულ კვირას გამოაქვეყნა ევროკავშირის ციფრული ხაზის და კონკურენციის უფროსმა, მარგრეტა ვესტერგერმა —, არეგულირებს როგორ იყენებენ კომპანიები ხელოვნურ ინტელექტს. მიუხედავად იმისა, რომ ევროკავშირს სურს, რომ მთავრობებმა გააკონტროლონ იგი უფრო რისკ ასპექტებზე, როგორიცაა სახის ცნობის ტექნოლოგიის გამოყენება, ევროპის საკუთარი ეზოში მრავალი აპლიკაცია აჩვენებს, თუ როგორ შეიძლება მისი გამოყენება როგორც უსაფრთხო, ისე ეფექტურად. შეუძლია თუ არა ფეისბუქს მათგან სიარული?

შემდეგი სოციალური ქსელის პროგრამები აფასებენ ინოვაციურად AI– ს გამოყენებით

კერძოდ, ერთმა ევროპულმა აპლიკაციამ შემოქმედებითად გამოიყენა ხელოვნური ინტელექტი, რომ უზრუნველყოს მის ახალგაზრდა მომხმარებლებს უფრო უსაფრთხო და სასიამოვნო გამოცდილება. Yubo, პირდაპირი ტრანსლაციის პროგრამა 13-25 წლის ასაკში, ეყრდნობა ბალანსს კომპლექსურ ალგორითმებს შორის და აცნობს ახალგაზრდებს ონლაინ ზიანის შესახებ, რომ მან 20 მილიონი მომხმარებელი უსაფრთხო იყოს პლატფორმაზე. საგულდაგულოდ მომზადებული ალგორითმი ამოიცნობს პრობლემურ შინაარსს, როგორიცაა სიშიშვლე ან ვინმეს მხოლოდ მათი საცვალი პირდაპირ ეთერში - ეს არის ის, როდესაც Yubo- ს რეალურ დროში ინტერვენციის სისტემა იწყებს, მომხმარებლებს უგზავნის გამაფრთხილებელ შეტყობინებას, რომელშიც განმარტავს, თუ რატომ არის ასეთი ქცევა სადავო. თუ მომხმარებელი არ ასწორებს მათ ქცევას, ნაკადი შეიძლება დისტანციურად გამორთოთ.

იმისათვის, რომ დავრწმუნდეთ, რომ აპლიკაცია დაცულია თინეიჯერებისა და მოზრდილებისთვის, ამავდროულად, Yubo პარტნიორობდა გაერთიანებული სამეფოს პოპულარულ ციფრული პირადობის პროვაიდერთან, Yoti– სთან, რომელიც შეესაბამება ატვირთულ საიდენტიფიკაციო დოკუმენტებს მომხმარებლის სელფებში, სახის ცნობის პროგრამული უზრუნველყოფის გამოყენებით. Yoti– ის ტექნოლოგია, რომელიც ასევე განლაგებულია სუპერმარკეტებში, რომ დარწმუნდნენ, რომ 18 წლამდე ასაკის პირები არ ყიდულობენ შეზღუდულ საქონელს, როგორიცაა სიგარეტი ან ალკოჰოლი, შეიძლება სხვა სოციალური მედიის პროგრამებში გამოიყენონ, რომ თავიანთი საზოგადოება „ასაკოვან კარიბჭეს“ გაუწიონ, ან დარწმუნდნენ, რომ მომხმარებლები არიან. რომლებიც ამბობენ, რომ არიან.

Yubo– ს მცდელობამ მოაწყო პრობლემური ინტერნეტ შინაარსის კვირაში computer კომპიუტერის დახმარებით ზომიერების შერწყმა ახალგაზრდების მომხმარებლების სენსიტიზაციით, კარგი ონლაინ – პროტოკოლის გაკეთების და არჩევის შესახებ - წარმოშვა და გააღვიძა ტექნოლოგიურ სექტორში. მათ ასევე უნდა მიაწოდონ გამამხნევებელი მაგალითი ორივე ტექნიკური გიგანტისთვის, როგორიცაა Facebook და რეგულატორები, როგორიცაა ევროკავშირი, რომ სოციალური მედიის პლატფორმებს შეუძლიათ ჯანმრთელი წონასწორობა გაუწიონ მას შორის, რომ ზედმეტი დამოკიდებულება ჰქონდეთ როგორც AI ან ადამიანის ზედამხედველობაზე.

ხელოვნური ინტელექტი სულაც არ არის განკურნებული იმ გამოწვევებისთვის, რომელთა წინაშე დგას სოციალური მედია პლატფორმები. იმის გამო, რომ Facebook ცდილობს ევროკავშირის დარწმუნებას, რომ მას შეუძლია საკუთარი შინაარსის ზომიერება მოახდინოს, ამასთან, ეს კარგი იქნება ახალი თაობის აპლიკაციების გათვალისწინებით, რომლებმაც შეძლეს ჰოლისტიკური სტრატეგიის შემუშავება, AI– ის ჩათვლით, მათი მომხმარებლების უსაფრთხო მდგომარეობის შენარჩუნებისთვის. .

გაუზიარე ეს სტატია: