Vzniká nástroj na zmierňovanie nenávistných prejavov na internete

Posted on Oct 14, 2020 | 0 comments


Črtá sa preventívny nástroj, vďaka ktorému môžu diskusie na sociálnych sieťach obsahovať menej nenávisti. Koncom septembra sa konal hackathon Code against hate (Kóduj proti nenávisti). Počas trojdňového podujatia, online hackathonu, (25.9 – 27.9.2020) účastníci z celého sveta diskutovali o inovatívnych riešeniach, ktoré môžu pomôcť znížiť množstvo nenávistných prejavov na internete. Otvorený softvér bude dostupný pre všetkých po celom svete.

Hackathon organizovala mimovládna organizácia Digitálna inteligencia (digiQ), ktorá sa zaoberá kybernetickou bezpečnosťou a zmierňovaním nenávistných v online prostredí.

Kóderi, softvéroví vývojári, študenti IT, akademici  a odborníci z humanitných predmetov zo Slovenska, Estónska, Poľska, Českej republiky, Slovinska, Nigérie, Mexika, Kostariky a Indie nachádzali v súťažných tímoch riešenia na otázky, ako možno použitím technológií znížiť množstvo nenávistných prejavov online. Aplikoval sa interdisciplinárny prístup, ktorého dôležitosť vyzdvihol aj Pavol Adamec z KPMG Slovensko: “Dnešné problémy nie je možné vyriešiť jednoodborovým prístupom, je nevyhnutné, aby spolupracovali viaceré odbory počínajúc psychológiou, sociológiou a informačnými a komunikačnými technológiami končiac.

Tímy mali k dispozícii odborných mentorov na rôzne oblasti, medzi nimi napríklad vedec v odbore umelá inteligencia Tomáš Mikolov z Českého inštitútu informatiky, robotiky a kybernetiky, rumunský developer Calin Vaida zo Zetta Cloud, estónska právna expertka na slobodu slova Liisa Linna, výskumníčka Marina Popescu z rumunského Median Research Centre či sociologička Viera Žuborová z Bratislava Policy Institute.

V piatok 25.9.2020 hackathon otvoril Norberto Andrade, ktorý vedie tím pre etiku umelej inteligencie vo Facebooku, workshopom k etickým pravidlám a umelej inteligencii a Fadzai Madzingira, ktorá poukázala na konkrétne pravidlá sociálnej siete pri zverejňovaní obsahu online a potrebe jeho kontextualizácie. V sobotu 26.9.2020 český expert na kryptografiu Jan Dušátko zdôraznil potrebu pristupovať k bezpečnosti navrhovaného softvéru ako k integrálnej súčasti riešenia dizajnu od prvého návrhu. Záver, počas ktorého sa porota radila o víťaznom návrhu, patril regionálnemu riaditeľovi pre Európu zo spoločnosti Consulus Stanislavovi Lenczovi a jeho vízii líderstva v globalizovanom svete.

Porota v zložení Pavol Adamec zo spoločnosti KPMG Slovensko, Kelly Grossthal z Estónskeho centra pre ľudské práva, Radu Raileanu z ActiveWatch a Andrea Cox z organizácie Digitálna inteligencia ocenila návrh tímu s názvom Machine learning team. Ten navrhol plug – in riešenie, ktoré pôsobí preventívne a v čase písania komentára v prípade nenávistného prejavu zobrazí používateľovi správu, ktorá mu navrhne prehodnotenie daného textu ešte pred jeho uverejnením. Z hľadiska architektúry softvéru ide o model strojového učenia. Toto jedinečné riešenie je ľahko implementovateľné na rôznych platformách prostredníctvom plug-inu. Multidisciplinárny tím, ktorý tvoria odborníci z viacerých krajín, prispôsobí nástroj tak, aby bol schopný identifikovať viaceré jazyky, nielen tie najrozšírenejšie, ale aj, z hľadiska množstva používateľov, menej používané. Základnú myšlienku tím predstavil na webstránke http://rholly.sk/. Jedna z účastníčok, Hanna Triin Sipos, online podujatie zhodnotila nasledovne: „Bola som veľmi prekvapená, ako dobre sa to celé skončilo, pretože som nevedela, čo môžem očakávať. Dosť som sa naučila od ostatných, skúsenejších ľudí v tíme, ako pracovať na komunikácii a  čo zobraziť pre konečného používateľa. V budúcnosti vidím veľký potenciál pre náš projekt.“

Pätica spolupracujúcich organizácií bude organizovať pokračovanie hackathonu začiatkom roku 2021, pričom dôraz bude daný na softvér schopný identifikovať nenávistné prejavy v povestných memečkách.

Hackathon Code against hate je súčasťou európskeho projektu Open Code for Hate-Free Communication, ktorého cieľom je analyzovať obsah na sociálnych sieťach, prijímať opatrenia a nachádzať efektívne riešenia, ako bojovať proti nenávistným prejavom, ktoré sa šíria v online priestore. Partnermi projektu Open Code for Hate-Free Communication sú organizácie Digitálna inteligencia (digiQ) zo Slovenska, Eesti Inimõiguste Keskus z Estónska, ActiveWatch z Rumunska, NIGDY WIĘCEJ z Poľska a Movimiento contra la Intolerancia zo Španielska. Projekt finančne a odborne podporili Európska únia z programu Práva, rovnosť a občianstvo, Facebook, Civitta Slovakia a KPMG Slovensko.