게시된 날짜: Nov 9, 2023
Amazon Comprehend는 조직이 텍스트 기반 콘텐츠의 신뢰와 안전을 강화하는 데 도움이 되는 새로운 기능을 발표했습니다. Amazon Comprehend는 사전 훈련된 사용자 지정 API를 제공하여 텍스트에서 인사이트를 도출하는 자연어 처리(NLP) 서비스입니다. 고객은 이제 새로운 Toxicity Detection 및 Prompt Safety Classification 기능을 통해 가드레일을 적용하여 사용자 및 기계 생성 콘텐츠를 조정할 수 있습니다.
오늘날 조직은 채팅, 댓글, 포럼 토론을 통해 생성형 AI 애플리케이션과 온라인 사용자가 생성한 콘텐츠를 관리해야 합니다. 악의적인 의도를 가진 사용자는 유해한 언어와 민감한 데이터가 포함된 콘텐츠를 생성하거나 생성형 AI 모델이 이러한 콘텐츠를 생성하도록 유도할 수 있습니다. 조직은 사용자의 안전을 보장하기 위해 이러한 콘텐츠를 신속하고 지능적으로 조정해야 합니다. 오늘부터 조직은 Comprehend의 Toxicity Detection 및 Prompt Safety Classification 기능을 사용하여 응답성이 우수하고 확장 가능하며 비용 효율적인 방식으로 텍스트 기반 콘텐츠를 조정할 수 있습니다.
Toxicity Detection은 성희롱, 혐오 발언, 위협, 학대, 욕설, 모욕, 노골적인 표현을 포함한 7가지 범주로 텍스트를 분류하여 유해한 콘텐츠를 식별하는 NLP 기반 기능입니다. Prompt Safety Classifier는 안전하지 않은 프롬프트에 플래그를 지정하여 생성형 AI 애플리케이션의 부적절한 사용을 방지합니다. 이 두 API는 모두 설정된 임계값을 사용하여 부적절한 콘텐츠를 자동으로 수정하거나 인간의 조정 워크플로를 강화하는 데 사용할 수 있는 신뢰도 점수를 제공합니다.
두 API 모두 영어를 지원하며, 미국 동부(버지니아 북부), 미국 서부(오레곤), 유럽(아일랜드), 아시아 태평양(시드니) 리전에서 사용할 수 있습니다. 고객은 AWS CLI와 SDK를 사용하여 이러한 기능에 액세스할 수 있습니다. 시작하려면 Amazon Comprehend 신뢰 및 안전 설명서로 이동하세요.