인스타그램은 다음주부터 새로운 기능을 선보일 예정이다. 10대 사용자가 짧은 시간 내에 자해나 자살과 명백히 관련된 키워드를 여러 번 검색하려고 하면 플랫폼이 해당 부모에게 알림을 보내고 부모가 주도적으로 자녀의 정신 상태를 돌볼 것을 권장하는 기능이다. 모회사 메타(Meta)도 비슷한 조기 경보 메커니즘을 올해 말 AI 챗봇 제품으로 확대할 계획이라고 밝혔다.
이 기능은 미국, 영국, 호주, 캐나다에서 처음 출시될 예정이며 '부모 모니터링' 설정을 활성화한 청소년 계정에만 적용됩니다. 즉, 부모와 청소년 모두 적극적으로 모니터링 기능을 켜기로 선택한 경우에만 부모는 관련 알림을 받게 됩니다. Meta는 이 기능이 올해 말에 더 많은 지역으로 확장될 것으로 예상된다고 말했습니다.
인스타그램의 발표문에 따르면 대부분의 10대 사용자는 자살이나 자해와 관련된 콘텐츠를 적극적으로 검색하지 않습니다. 사용자가 이러한 검색을 수행할 때 플랫폼의 기존 정책은 관련 검색 결과를 직접 차단하고 심리적 지원 및 도움말 핫라인을 제공하는 리소스 페이지로 연결하는 것입니다. 인스타그램은 새로운 경고 메커니즘의 목표가 콘텐츠 제한을 완화하는 것이 아니라 차단 정책을 유지하는 동시에 자녀가 '도움 요청 신호'를 보낼 때 적시에 부모가 개입하고 지원할 수 있는 기회를 제공하는 것이라고 강조했습니다. 플랫폼은 또한 너무 빈번한 알림을 피하고 경고 효과를 약화시키기 위해 "부모에게 필요한 정보 제공"과 "과도한 방해 방지" 사이의 균형을 맞추려고 노력할 것이라고 밝혔습니다.
구체적인 제시 방법으로는 어린 사용자가 짧은 시간 내에 자해나 자살과 관련된 단어를 반복적으로 검색한 것으로 판단되면 부모에게 이메일, 문자 메시지, WhatsApp 등의 채널을 통해 알림을 제공하고 앱 내에 알림 팝업도 표시합니다. 이 알림은 부모에게 자녀의 최근 검색 행동을 상기시켜 줄 뿐만 아니라 민감한 주제에 관해 십대 자녀와 소통하는 방법에 대한 안내 자료도 함께 제공되므로 부모가 대화에 더 잘 대비할 수 있습니다.