천사 수를 찾으십시오
디자인 : Lauren Park
'이거 거시기 사진이 될까요?' 많은 사람들, 특히 여성들이 낯선 사람의 DM을 볼 때마다 두려워하는 질문입니다. 음, 드디어 그 불안감을위한 앱이 있습니다. 적어도 트위터 DM을위한 것입니다.
에 대한 영감 SafeDM , 현재 개발중인 콘텐츠 차단 필터 인 Kelsey Bressler가 디지털 성적인 종류의 원치 않는 괴롭힘을 처리하고 있다는 사실을 알게되자 촉발되었습니다.
Bressler는“[그건] 임의의 사람이었고 내 관심을 끌고 싶었습니다. “그들은 왜 나에게 말하지 않는지 물은 다음 나에게 보냈습니다. 내가 왜 그 사람과 이야기하지 않는지 알 것 같아요.”
복수 포르노에 대한 Bressler의 경험은 또한 그녀가이 괴롭힘에 맞서 싸우도록 자극했습니다. 다른 세 명의 팀과 함께 그녀는 콘텐츠 필터 AI를 개발하고 있으며, 거시기 사진을 인식하고 사용자에게 알리고받은 편지함에서도 삭제하도록 가르치고 있습니다.
연구에 따르면 18 ~ 29 세 여성의 53 % 그리고 대략 밀레 니얼 세대 여성의 78 % 원치 않는 노골적인 이미지로 메시지를 보내며, 그 중 대부분은 거시기 사진입니다.
“여성이 사이버 플래시를 경험하지 않았다면 그녀는 그 경험이있는 사람을 알고 있습니다. 너무 흔한 일이어서 여성에게 DM을 닫으라고 말하는 것 외에는 해결책이 없었습니다. 제 생각에는 정답이 아닙니다.”라고 Bressler는 말합니다. '이것은 대부분의 여성들이 정말 좋아하는 것입니다.'
AI는 거시기 사진이 어떻게 생겼는지 어떻게 알 수 있습니까?
글쎄, 덕분에 Bressler의 9 월 바이러스 트윗 , 많은 요청 된 사진이 계정으로 전송됩니다. ShowYoDiq . (일부 사진은 또한 실수로 Bressler의 개인 Twitter 계정으로 전송 된 것이 아니라 실수로 전송되었습니다.) 반짝이는 거시기. 양말을 신은 거시기. 우리의 성기-이 모든 사진은 AI가 성기 사진을 만드는 것을 인식하는 데 도움이되도록 테스트되었습니다.
트위터
페니스 인 경우 SafeDM은 자동으로 이미지를 삭제하고 보낸 사람에게 보낸 내용이 부적절한 메시지라고 답장하고 사용자에게 공격 횟수를 알립니다.
“우리는 메시지에서 그들을 꾸짖지 않습니다. 우리는 그것이 부적절한 콘텐츠라고 말합니다. 경고 수는 물론이고 모든 말과 관련하여 작업 중입니다. [이후] 경고가 발생하면 해당 사용자가 자동으로 다시 연락하지 못하도록 차단됩니다. '
일부 잠재적 인 사용자는 SafeDM이 자동으로 수행하도록하기보다는 직접 위반자를 수동으로 차단하고 싶다고 말했습니다. Bressler와 그녀의 팀은 필터에 관심이있는 사람들의 피드백을 듣고 있습니다.
“사용자가 원하는 것입니다. 사람들이 이러한 설정을 변경할 수 있도록 가능한 한 유연하게 작업을 진행하고 있습니다.”라고 Bressler는 말합니다. 릴리스되면 필터와 해당 설정이 완벽하게 작동하지만 팀은 핵심 기능을 유지하면서 릴리스 날짜 이후 사용자가 요청한 옵션을 최종 사용자에게 기꺼이 채택 할 것입니다.
이 콘텐츠 필터는 (잠정) 2 월 14 일에 출시 될 예정입니다.
열성적인 사람들이 제공 한 데이터의 양 덕분에 콘텐츠 필터가 페니스가 무엇인지, 그리고 남근 모양의 농산물이 아닌지 판단하는 데 도움이되는 테스트가 상당히 많았습니다. 이는 또한 팀이 필터에 의해 오 탐지 여부를 포착해야하는지 여부를 포함하여 다소 빠르게 필터를 개발하는 데 도움이되었습니다.
Bressler는“우리는 오 탐지가 있지만 99 % 이상 정확합니다. “우리는 사람들이 성기를 물건처럼보고 싶어하는지 결정해야하는 시점에 와야합니다. 그 괴롭힘도 마찬가지입니까? [이미지]가 페니스가 아니더라도 필터가 필터링해야할까요? 실제로 사용자가 원하는대로 돌아갑니다. '
SafeDm의 트위터 테스트는 콘텐츠 필터 AI를 점점 더 적게 통과하면서 9 월에 발표 된 이후 엄청난 진전과 정확성을 보여주었습니다. 그리고 사람들은 곧 출시 될 출시에 대해 당연히 과대 광고를합니다. 놀랍게도 Bressler는 필터에 대한 메시지를받는 데 가장 좋아하는 사람들 중 일부는 아빠, 특히 딸이있는 아빠로부터 온 것이라고 언급했습니다.
“그들은 내가하는 일에 행복하지만 처음부터해야한다는 사실에 슬프다. 딸이 있고이 문제를 처리하지 않기를 바라기 때문에 내가 작업하고 있다는 사실에 기뻐하는 [몇 명의] 아빠가 있습니다.”
트위터 계정이있는 사람은 누구나 콘텐츠 차단 필터를 사용할 수 있습니다.
Bressler는 '특정 전화 모델이 필요하지 않습니다.'라고 설명합니다. “모든 트위터 계정이 이것을 사용할 수 있습니다. 앱과 웹에서 동일하게 작동합니다. '
이 프로젝트의 궁극적 인 목표는 커뮤니티에 제어권을 다시 부여하여 Twitter받은 편지함에있는 내용을 두려워하지 않고 살 수 있도록하는 것입니다.
여자의 비밀 신체 부위
'불쾌한 상황에서 무언가를 빼내어 상황을 조금씩 통제하고 세상을 더 나은 곳으로 만들 수 있다는 것은 재밌습니다.'
