Voivatko digitaaliset algoritmit suojella Gabriel Fernandezin kaltaisia ​​lapsia väärinkäytöksiltä?

Vuosittain noin 7 miljoonasta lapsesta ilmoitetaan lastensuojeluviranomaisille mahdollisesta väärinkäytöstä, mutta miten viranomaiset päättävät, pitävätkö lapset siitä Gabriel Fernandez ovat vakavassa vaarassa ja tarvitsevat puuttumista asiaan?





Monet lastensuojeluviranomaiset luottavat riskiarviointeihin, jotka henkilöstö on koulutettu käyttämään puhelinlinjoja, joissa epäillään väärinkäytöstä, mutta jotkut uskovat, että voi olla parempi tapa.

'On olemassa laaja joukko kirjallisuutta, jonka olemme nähneet viittaavan siihen, että ihmiset eivät ole erityisen hyviä kristallipalloja', Emily Putnam-Hornstein, Lasten tietoverkko ja USC: n apulaisprofessori, sanoivat uudessa Neflix-dokumenttisarjassa 'Gabriel Fernandezin oikeudenkäynnit'. 'Sen sijaan, mitä me sanomme, kouluttakaamme algoritmi sen tunnistamiseksi, mitkä näistä lapsista sopivat profiiliin, jossa pitkän kaaren riski viittaisi järjestelmän tulevaan osallistumiseen.'



Fernandez oli kahdeksanvuotias poika, jota hän petti ja kidutti äiti ja hän poikaystävä huolimatta hänen opettajansa ja muiden toistuvista kutsuista viranomaisille, jotka ilmoittavat väärinkäytöksistä. Uudessa kuusiosaisessa sarjassa tarkastellaan Fernandezin elämää ja kauhistuttavaa kuolemaa, mutta sitä tarkastellaan myös laajemmin systeemiset ongelmat lasten hyvinvointijärjestelmässä, jolla olisi voinut olla merkitystä.



Putnam-Hornstein väittää, että yksi strategia suurimmalle vaaralle alttiiden lasten tunnistamiseksi voisi olla erityisesti luotujen algoritmien käyttö, jotka käyttävät hallinnollisia tietoja ja tiedonlouhintaa kunkin lapsen riskipisteiden määrittämiseen.



'Meillä on tosiasiassa noin 6 tai 7 miljoonaa lasta, joista ilmoitetaan väitetyistä väärinkäytöksistä tai laiminlyönneistä joka vuosi Yhdysvalloissa, ja historiallisesti tapa, jolla olemme tehneet joitain seulontapäätöksiä, perustuu vain eräänlaisiin suoliston arvioihin', hän sanoi. 'Ennakoiva riskimallinnus on vain sanomista:' Ei, ei, ei, otakaamme tähän järjestelmällisempi ja empiirisempi lähestymistapa. '

Putnam-Hornstein ja Rhema Vaithianathan, Sosiaalisen datan analyysin keskus , pystyivät toteuttamaan idean käytännössä Alleghenyn piirikunnassa Pennsylvaniassa. Pari käytti tuhansia lasten väärinkäyttölähetyksiä suunnitellakseen algoritmin, joka määrittäisi jokaisen läänin lastensuojelupalvelulle ilmoitetun perheen riskipisteet. Terveysjournalismin keskus .



'Katsotaan noin sataa erilaista tekijää', Alleghenyn läänin henkilöstöosaston johtaja Marc Cherna selitti dokusarjassa. 'Joitakin perusesimerkkejä ovat lasten hyvinvoinnin historia, vanhempien historia, varmasti huumeiden käyttö ja riippuvuus, perheen mielisairaudet, vankila ja vakaumukset ja varsinkin jos on olemassa pahoinpitelyjä ja vastaavia.'

dennis on salaa sarjamurhaaja

Suuren puhelumäärän vuoksi lastensuojeluviranomaiset eri puolilla maata ovat velvollisia päättämään, pitäisikö perhe tutkia tutkimusta varten valituksen perusteella vai onko se turvatarkastettava.

Vuonna 2015 42% koko maassa saaduista 4 miljoonasta väitteestä, joihin osallistui 7,2 miljoonaa lasta, seulottiin New York Times .

Lapset kuolevat kuitenkin edelleen lasten hyväksikäyttöön.

onko tyria moore vielä elossa?

Alleghenyn piirikunnassa käytettävä järjestelmä on suunniteltu ennustamaan tarkemmin, mitkä perheet todennäköisesti tulevat tulevaisuudessa osallistumaan järjestelmään tietojen analysoinnin avulla.

'Seulojilla on paljon tietoa', Vaithianathan kertoi The Timesille. 'Mutta on melko vaikeaa navigoida ja tietää, mitkä tekijät ovat tärkeimpiä. Yhden puhelun aikana C.Y.F. , sinulla saattaa olla kaksi lasta, väitetyn tekijän, sinulla on äiti, sinulla saattaa olla toinen aikuinen kotitaloudessa - kaikilla näillä ihmisillä on historia järjestelmässä, jota puhelun seuloja voi tutkia. Ihmisen aivot eivät kuitenkaan ole niin taitavia hyödyntämään ja ymmärtämään kaikkia tietoja. '

Allegheny-perheen seulontatyökalu käyttää tilastollista tekniikkaa nimeltä 'tiedonlouhinta' tarkastellakseen historiallisia malleja 'yrittää tehdä ennuste siitä, mitä voi tapahtua' joka tapauksessa, hän sanoi doku-sarjassa.

Kullekin tapaukselle annetaan riskipisteet yhdestä kahteen - luokittelemalla kukin tapaus joko suuririskiseksi, keskiriskiseksi tai matalariskiseksi.

Pittsburghin lastensairaalan lastenlääkäri Rachel Berger kertoi The Timesille vuonna 2018, että ennakoivan analyysin tekee arvokkaaksi se, että se eliminoi osan subjektiivisuudesta, joka tyypillisesti menee prosessiin.

'Kaikki nämä lapset elävät kaaoksessa', hän sanoi. 'Kuinka C.Y.F. valita, mitkä ovat eniten vaarassa, kun heillä kaikilla on riskitekijöitä? Et voi uskoa lastensuojelupäätöksiin sisältyvän subjektiivisuuden määrää. Siksi rakastan ennakoivaa analytiikkaa. Viimeinkin se tuo jonkin verran objektiivisuutta ja tieteellistä päätöstä, joka voi olla niin uskomattoman elämää muuttava. '

Mutta on myös ollut kriitikkoja, jotka väittävät, että ennakoivan analyysin käyttäminen perustuu tietoihin, jotka saattavat olla jo puolueellisia. Aikaisemmat tutkimukset ovat osoittaneet, että vähemmistöt ja pienituloiset perheet ovat usein yliedustettuina kerätyissä tiedoissa, mikä saattaa aiheuttaa puolueellisuutta afrikkalaisamerikkalaisille perheille tai muille vähemmistöperheille dokusarjan mukaan.

”Ihmisten ennakkoluulot ja data-puolueetkulkevat käsi kädessä keskenään', Ohio State Universityn Kirwan Institute for Race and Ethnicity -tutkimusinstituutin vanhempi tutkija Kelly Capatosto sanoi Health Journalism Centerin mukaan. 'Näillä päätöksillä ajattelemme valvontaa ja järjestelmäkontakteja - poliisin, lastensuojelujärjestöjen, kaikkien sosiaalihuoltoa palvelevien virastojen kanssa. Se on yliedustettu (pienituloisissa ja vähemmistöyhteisöissä). Se ei välttämättä osoita, missä nämä tapaukset tapahtuvat. '

Allegheny Countyn analyysi-, teknologia- ja suunnittelutoimiston varajohtaja Erin Dalton myönsi, että puolueellisuus on mahdollista.

”Varmasti järjestelmissämme on ennakkoluuloja. Me pidämme lasten hyväksikäyttöä, ja tietomme eivät ole todellisen lasten hyväksikäytön funktio, vaan se, kuka ilmoitetaan ', hän sanoi Netflix-sarjassa.

Mutta läänissä kerrottiin myös Terveysjulkaisukeskukselle, että se on havainnut, että julkisten etujen saaminen alentaa melkein sen perheiden riskipisteitä.

Thänen lääninsä on 'erittäin herkkä' tuohon huolenaiheeseen ja analysoi järjestelmää jatkuvasti sen selvittämiseksi, onko ryhmiin kohdennettu suhteettomasti, Cherna sanoi myös doku-sarjassa.

Allegheny County -järjestelmän omistaa itse lääni, mutta kritiikkiä on esiintynyt myös muissa yksityisomistuksessa olevissa seulontajärjestelmissä.

Illinoisin lasten ja perhepalvelujen osasto ilmoitti vuonna 2018, että se ei enää käytä ennustavaa analyysipakettia, jonka ovat kehittäneet voittoa tavoittelematon Eckerd Connects ja sen voittoa tuottava kumppani MindShare Technology, osittain siksi, että yritys kieltäytyi antamasta yksityiskohtaisia ​​tietoja tekijöistä käytettiin kaavassa The Timesin mukaan.

Järjestelmän mukaan alettiin nimetä tuhansia lapsia kiireellistä suojelua tarvitseviksi, mikä antoi yli 4100 Illinoisin lapselle 90 prosentin tai suuremman todennäköisyyden kuolemaan tai loukkaantumiseen, Chicago Tribune raportoitu vuonna 2017.

apinoiden planeetta valerie jarrett

Silti muut lapset, jotka eivät saaneet suuria riskipisteitä, lopulta kuolivat väärinkäytöksiin.

'Ennakoiva analyysi (ei ollut) ennustaa pahoja tapauksia', Lasten ja perheiden osaston johtaja Beverly 'B.J.' Walker kertoi Tribunelle. 'Olen päättänyt olla tekemättä kyseistä sopimusta.'

Daniel Hatcher, kirjoittaja Köyhyysala: Amerikan haavoittuvimpien kansalaisten hyväksikäyttö 'Verrattiin joitain analyyttisiä järjestelmiä' mustaan ​​laatikkoon ', sanomalla doku-sarjassa, että miten he tekevät päätöksensä, ei ole aina selvää.

'Heillä ei ole mitään keinoa selvittää, miten he todella päättävät hoidon tasosta, jolla on valtava vaikutus yksilöön', hän sanoi.

Putnam-Hornstein myönsi, että ennustavat analyyttiset järjestelmät eivät pysty määrittämään tulevaa käyttäytymistä, mutta hän uskoo, että se on arvokas työkalu, jonka avulla seulojat voivat tehdä tietoisempia päätöksiä siitä, mitkä lapset saattavat olla suurimmassa vaarassa.

'Toivon, että nämä mallit auttavat järjestelmäämme kiinnittämään enemmän huomiota suhteellisen pieneen osajoukkoihin, joissa riski on erityisen suuri, ja voimme osoittaa enemmän resursseja näille lapsille ja perheille ennaltaehkäisevästi', hän sanoi terveyden journalismin keskukselle. 'En halua kenenkään myyvän ennustavaa riskimallinnusta. Se ei ole kristallipallo. Se ei ratkaise kaikkia ongelmia. Mutta marginaalilla, jos se antaa meille mahdollisuuden tehdä hieman parempia päätöksiä ja tunnistaa korkean riskin tapaukset ja lajitella ne pieniriskisistä tapauksista ja sopeutua vastaavasti, tämä voi olla tärkeä kehitys kentällä. '

Suosittu Viestiä