På förra årets WWDC presenterade Apple ett par nyheter i sina produkter som företaget verkade tro skulle vara okontroversiella, men som i själva verket fick såväl användare som forskare och integritetsaktivister att slå bakut. Det ena var en funktion som skannar alla användarens bilder som laddas upp till Icloud efter barnporr, det andra ett nakenfilter för Imessage för barnkonton.

Barnporrfiltret fick extremt hård kritik från många håll. Apple har inte implementerat det än och kommer kanske aldrig göra det. Nakenfiltret för Imessage däremot har lanserats i USA i IOS 15.2 och ska enligt rykten snart komma även till andra engelskspråkiga länder. Därefter lär det fortsätta rullas ut och och så småningom även komma till Sverige.

Så fungerar filtret

Kommunikationssäkerhet för Meddelanden, som Apple kallar funktionen, aktiveras för ett barnkonto på Icloud i familjedelningsinställningarna i den samordnande förälderns Icloud-inställningar. Det aktiveras alltså aldrig automatiskt.

Aktivera

När det är aktivt gäller filtret på alla enheter barnet är inloggad på, så länge systemet är uppdaterat till en version som stödjer den.

Själva filtret består av maskininlärningsalgoritmer som analyserar alla bilder som skickas till användare, även bilder användaren skickar. Om en bild bedöms innehålla nakna människor händer olika saker beroende på om det är en inkommande eller utgående bild.

Dold bild

För bilder som skickas från andra döljer Meddelanden bilden och visar en varning om att den kan vara ”känslig”. Om barnet trycker på ”visa bild” visas mer detaljerad information om varför varningen är där, och barnet kan sedan välja att ignorera eller iaktta varningen.

Varningar

För bilder barnet försöker skicka stoppas meddelandet med en liknande varning och barnet måste bekräfta att det förstår riskerna med att skicka nakenbilder till andra innan det kan gå vidare och tvinga appen att skicka det.

Inga varningar till föräldrar

När Apple presenterade funktionen fick även den kritik av integritetsexperter. Det berodde på att företaget tänkte sig att Meddelanden automatiskt skulle informera föräldrarna om ett barn under 13 år visade eller valde att skicka en bild som bedömdes innehålla nakenhet av filtret.

Fler åtgärder

Apple har svarat på den kritiken genom att helt enkelt ta bort den typen av meddelanden till föräldrar. Barn som själva vill tala om för sina föräldrar att de verkar ha fått nakenbilder av främlingar (eller bekanta) kan självmant meddela dem, men funktionen själv skickar inte längre några uppgifter alls från telefonen. Själva filterfunktionen körs helt på enheten och bryter inte Imessages totalsträckskryptering.

Barn som fyllt 13 kan själva skapa Icloud-konton som inte är kopplade till familjedelning, och i så fall kan funktionen inte aktiveras.

Okänt när det kommer till Sverige

Språk, kulturella skillnader kring nakenhet och juridik är alla hinder för Apple att snabbt rulla ut nakenfiltret globalt. Därför är det okänt hur länge det kan dröja innan det påverkar svenska användare när de kommunicerar med andra i Sverige.

Med det sagt kan även svenska användare stöta på filtret om de skickar bilder till amerikanska (och snart brittiska, kanadensiska, nya zeeländska och australiensiska) användare.