Dopo le accuse, Twitter pagherà gli hacker per trovare pregiudizi nei suoi ritagli automatici di immagini

Twitter è organizzare un concorso Sperando che hacker e ricercatori possano identificare i pregiudizi nel suo algoritmo di ritaglio delle immagini – e distribuirà premi in denaro ai team vincitori (attraverso Engadget). Twitter spera che dare ai team l’accesso al codice e al suo modello di ritaglio delle immagini consentirà loro di trovare modi in cui l’algoritmo può essere dannoso (come ritagliarli in modo da creare stereotipi o cancellare il soggetto dell’immagine).

Quei contendenti lo faranno Dovrebbe essere fornita una descrizione dei loro risultatie un set di dati che può essere eseguito tramite l’algoritmo per illustrare il problema. Twitter assegnerà quindi punteggi in base al tipo di danno riscontrato, alla probabilità che influenzerà le persone e altro ancora.

La squadra vincitrice riceverà $ 3.500 e ci sono premi separati di $ 1.000 per i risultati più innovativi e popolari. Questo importo Potrebbe causare un po’ di confusione Su Twitter, con alcuni utenti che dicono Deve contenere uno zero in più. Per il contesto, Twitter Programma regolare bug bounty Ti pagheranno $ 2.940 se trovi un bug che ti consente di eseguire azioni per qualcun altro (come Ritwitta un tweet o una foto) utilizzando lo scripting tra siti. Trovare un problema OAuth che ti consente di rilevare l’account Twitter di qualcuno ti farà guadagnare $ 7.700.

Twitter ha già svolto le proprie ricerche sull’algoritmo di ritaglio delle immagini – a maggio, pubblicato un articolo Indagare in che modo l’algoritmo è distorto, poi Accuse che i suoi raccolti fossero razzisti. Twitter Quasi cancellato Da allora, le anteprime vengono ritagliate algoritmicamente, ma sono ancora utilizzate sul desktop e un buon algoritmo di ritaglio è una buona cosa per un’azienda come Twitter.

L’apertura della concorrenza consente a Twitter di ottenere feedback da una gamma molto più ampia di punti di vista. Ad esempio, il team di Twitter tenuto spazio Per discutere di una competizione durante la quale un membro del team ha menzionato la ricezione di domande sui pregiudizi basati sui livelli nell’algoritmo, qualcosa che potrebbe non essere evidente agli sviluppatori di software in California.

Non è nemmeno solo il pregiudizio algoritmico inconscio che Twitter sta cercando. Lo standard contiene valori in punti per danni intenzionali e non intenzionali. Twitter definisce i danni non intenzionali come i comportamenti di ritaglio che possono derivare da un utente «in buona fede» che pubblica una foto normale sulla piattaforma, mentre i danni intenzionali sono comportamenti di ritaglio problematici che possono essere sfruttati da qualcuno che pubblica foto progettate in modo dannoso.

Twitter afferma nel suo blog pubblicitario che la concorrenza è separata da programma bug bounty Se invii a Twitter una segnalazione sui pregiudizi dell’algoritmo fuori dalla concorrenza, la società dirà che la segnalazione verrà chiusa e contrassegnata come inapplicabile. Se sei interessato a partecipare, puoi Vai alla pagina HackerOne per il concorso Ulteriori informazioni su regole, standard e altro ancora. Le iscrizioni sono aperte fino al 6 agosto alle 23:59 PT e i vincitori della sfida saranno annunciati al Def Con AI Village il 9 agosto.