LLM의 남용을 방지하기 위한 접근 방식에는 어떤 것이 있나요?
다음은 LLM의 남용을 방지하기 위한 몇 가지 접근 방식입니다:

1. 사용자가 가학적인 문구가 포함된 프롬프트를 제출하지 못하도록 차단합니다(간단한 키워드 금지 기능을 사용하면 효과적일 수 있습니다).
2. 첫 번째 방법과 유사하게, 단순 키워드 금지를 통해 LLM이 가학적인 문구가 포함된 응답을 반환하지 못하도록 합니다.
3. 사용자에게 찬성/반대 투표 및 LLM의 응답에 플래그를 지정하여 피드백을 수집할 수 있는 옵션을 제공합니다. 부적절한 것으로 플래그가 지정된 응답에 대해 추가 분류 모델을 학습시킨 다음, 향후 사용자가 보기 전에 LLM에서 문제가 있는 응답을 식별하고 필터링하는 데 사용할 수 있습니다.
What are some approaches to prevent abuse of LLMs?
Here are some approaches to prevent abuse of LLMs:

1. Prevent users from submitting prompts that contain abusive phrases (a simple keyword ban could work for this).
2. Similar to the first point, prevent the LLM from returning responses that contain abusive phrases based on a simple keyword ban.
3. Provide users the option to upvote/downvote and flag responses from the LLM to collect feedback. An additional classification model could be trained on the responses that were flagged as inappropriate and then used to identify and filter out problematic responses from the LLM in the future before the user sees them.