Apple은 최신 iPhone에 대해 부정확한 뉴스 알림을 생성한 후 새로운 인공지능(AI) 기능을 중단하는 대신 업데이트할 것이라고 밝혔습니다. 애플은 월요일 처음으로 이 문제를 인정했으며 알림이 애플 인텔리전스 시스템에 의해 생성된 요약일 때 "더 명확히"하기 위해 소프트웨어를 변경하고 있다고 말했습니다.
기술 대기업은 Apple Intelligence 시스템의 성능 결함으로 인해 기술을 취소하라는 요청에 직면해 있습니다.
BBC는 지난 달 인공지능이 생성한 헤드라인 발췌문에서 UnitedHealth CEO 브라이언 톰슨(Brian Thompson)을 살해한 혐의로 기소된 루이지 맨지오네(Luigi Mangione)가 총을 쐈다는 사실을 일부 독자들에게 잘못 전한 후 불만을 토로했습니다.
지난 금요일, 애플의 인공 지능은 루크 리틀러(Luke Littler)가 PDC 세계 다트 챔피언십이 시작되기 몇 시간 전에 우승했고, 스페인 테니스 스타 라파엘 나달(Rafael Nadal)이 동성애자라고 커밍아웃했다고 주장하는 BBC 앱의 알림을 실수로 집계했습니다.
이는 BBC가 해당 조직의 앱 내에서 발생한 것으로 보이는 버그에 대한 우려를 표명한 데 대해 Apple이 공식적으로 응답한 것은 이번이 처음입니다.
BBC는 월요일 "애플의 이러한 AI 요약은 BBC의 원본 내용을 반영하지 않으며 어떤 경우에는 완전히 모순된다. 우리 저널리즘의 정확성은 신뢰를 유지하는 데 필수적이기 때문에 애플은 이러한 문제를 시급히 해결해야 한다"고 말했습니다.
애플은 업데이트가 "앞으로 몇 주 안에" 출시될 것이라고 밝혔습니다.
회사는 이전에 여러 최근 앱 알림의 미리보기를 결합하여 사용자 잠금 화면의 단일 알림으로 다시 작성할 수 있는 알림 요약이 사용자가 "주요 세부 정보를 검색"할 수 있도록 설계되었다고 밝혔습니다. Apple은 월요일 성명을 통해 "Apple Intelligence 기능은 아직 베타 버전이며 사용자 피드백을 통해 지속적으로 개선하고 있습니다. 표시되는 텍스트가 Apple Intelligence에서 제공하는 요약인지 앞으로 몇 주 안에 소프트웨어 업데이트를 통해 더욱 명확하게 설명할 것입니다. 사용자가 예상치 못한 알림 요약을 본 경우 관련 문제를 신고할 것을 권장합니다"라고 밝혔습니다.
이 기능은 광범위한 AI 도구 제품군의 일부로 출시된 다른 기능과 함께 12월 영국에서 출시되었습니다. iOS 18.1 이상을 실행하는 iPhone 16 모델, iPhone 15 Pro 및 Pro Max 휴대폰, 일부 iPad 및 Mac에서만 사용할 수 있습니다.
소셜 미디어에서는 정보를 매우 간단하고 문자 그대로 해석하는 기술의 일부 사례가 큰 화제를 불러일으켰습니다. 지난 11월 ProPublica 기자는 New York Times 앱에서 발췌한 잘못된 Apple AI 경고를 강조하면서 해당 앱이 베냐민 네타냐후 이스라엘 총리가 체포되었다고 보도했다는 점을 시사했습니다.
언론인의 권리를 대표하는 단체인 국경 없는 기자회는 지난 12월 Apple에 이 기능을 금지할 것을 촉구했습니다. 이 단체는 Mangione 씨에 대한 허위 헤드라인을 BBC에 귀속시키는 것은 "생성 AI 서비스가 아직 미성숙하고 대중에게 신뢰할 수 있는 정보를 제공할 수 없다는 것을 보여준다"고 말했습니다.
사용자 프롬프트를 기반으로 텍스트, 이미지 등을 생성하는 생성 AI 도구를 출시하는 데 Apple만 있는 것은 아니지만 결과는 다양합니다.
Google의 AI 기반 개요 기능은 사용자의 쿼리를 기반으로 검색 엔진 상단에 정보 요약을 서면으로 제공하지만 이 기능은 작년에 일부 불규칙한 응답을 생성한다는 비판을 받았습니다.
당시 구글 대변인은 이는 단지 "고립된 예"일 뿐이며 이 기능은 일반적으로 잘 작동하고 있다고 말했습니다.