中国のチャットボット「ERNIE Bot」が政治的制限の下で運営されていることが明らかに

• 中国の検索サービス大手のBaiduがチャットボット「ERNIE Bot」を一般向けに公開
• ERNIE Botは政治的忠誠度の高い回答を行うように制御されている
• ERNIE Botは「良くない質問」を排除する方法を2つ持っている
• ERNIE Botは中国語・英語のみを使用可能で、他の言語の質問をすると中国語で回答が返ってくる
• ERNIE Botは政治的・道徳的な主張を行うことがある点が特筆すべき
• ERNIE Botの回答はプロンプトが「危険」な場合はコピーペーストされた情報が返されることがある
• ERNIE Botは不正確な情報を提供する傾向があり、チャットAIの中では高い

Baidu製のチャットAI「ERNIE Bot」ではどのように中国政府の検閲制度に対応しているのか？

2023年8月30日に中国検索サービス大手のBaiduがチャットボット「ERNIE Bot(文心一言)」を一般向けに公開しました。ERNIE Botは中国の検閲制度の対象となっており、政治的忠誠度の高い回答が行われるようになっていますが、そうしたチャットAIの制御がどのように行われているのかについて中国を中心に報道するメディア「China Talk」がレポートを掲載しています。続きを読む…