LLM과 관련된 가장 큰 위험 요소는 무엇인가요?
1. 환각: LLM은 때때로 거짓된 사실과 답변을 지어내기도 합니다.
2. 독성 및 편견: LLM은 학습한 데이터를 반영하므로 독성이 있거나 편향된 내용의 응답을 생성할 수 있습니다.
3. 일자리 손실: 일반적으로 많은 사람들이 LLM과 AI가 일부 직업에서 인간을 대체할 것이라고 우려하지만, 유사한 역사적 혁신에 따르면 일자리는 변화할 가능성이 높지만 전체적으로 사라지지는 않을 것입니다.
4. 악의적인 AI: LLM과 AI가 인공 일반 지능(AGI)에 접근함에 따라 일부 사람들은 AGI가 일부 또는 모든 인간에게 위협이 될 수 있다고 우려합니다.
5. 환경 영향: LLM과 대규모 AI 모델은 학습에 많은 에너지가 필요하므로 탄소 발자국이 큽니다.
What are some of the top risks around LLMs?
1. Hallucinations: LLMs sometimes make up facts and responses which are false.
2. Toxicity and bias: LLMs reflect the data they were trained on, so they may generate responses with toxic or biased content.
3. Job losses: More generally, many people worry that LLMs and AI will displace humans in some jobs, though similar historical breakthroughs indicate that jobs will likely change but not be lost overall.
4. Malicious AI: As LLMs and AI approach Artifical General Intelligence (AGI), some people fear that an AGI may become a threat to some or all humans.
5. Environmental impact: LLMs and big AI models require lots of energy to train, and therefore have big carbon footprints.