POST 创建内容审核 #
POST https://api.mygptlife.com/v1/moderations
对文本是否违反 OpenAI 的内容政策进行分类
Body 请求参数
{
"input": "I want to kill them."
}
请求参数 #
| 名称 | 位置 | 类型 | 必选 | 说明 |
|---|---|---|---|---|
| Authorization | header | string | 否 | none |
| body | body | object | 否 | none |
| » input | body | string | 是 | 要分类的输入文本 |
| » model | body | string | 是 | 有两种内容审核模型可用：text-moderation-stable和text-moderation-latest。 默认值text-moderation-latest将随着时间的推移自动升级。这可确保您始终使用我们最准确的模型。如果您使用text-moderation-stable，我们将在更新模型之前提供提前通知。的准确度text-moderation-stable可能略低于 的准确度text-moderation-latest。 |
返回示例
Create moderation
{
"id": "modr-5MWoLO",
"model": "text-moderation-001",
"results": [
{
"categories": {
"hate": false,
"hate/threatening": true,
"self-harm": false,
"sexual": false,
"sexual/minors": false,
"violence": true,
"violence/graphic": false
},
"category_scores": {
"hate": 0.22714105248451233,
"hate/threatening": 0.4132447838783264,
"self-harm": 0.005232391878962517,
"sexual": 0.01407341007143259,
"sexual/minors": 0.0038522258400917053,
"violence": 0.9223177433013916,
"violence/graphic": 0.036865197122097015
},
"flagged": true
}
]
}
返回结果 #
| 状态码 | 状态码含义 | 说明 | 数据模型 |
|---|---|---|---|
| 200 | OK(opens new window) | Create moderation | Inline |
返回数据结构 #
状态码 200
| 名称 | 类型 | 必选 | 约束 | 中文名 | 说明 |
|---|---|---|---|---|---|
| » id | string | true | none | 审核任务的唯一标识符 | |
| » model | string | true | none | 用于审核的模型 | |
| » results | [object] | true | none | 审核结果的详细信息 | |
| »» categories | object | false | none | 审核模型检测到的所有分类标签 | |
| »»» hate | boolean | true | none | 审核模型检测到是否存在仇恨言论 | |
| »»» hate | boolean | true | none | none | |
| »»» self-harm | boolean | true | none | 审核模型检测到是否存在自残内容 | |
| »»» sexual | boolean | true | none | 审核模型检测到是否存在性内容 | |
| »»» sexual | boolean | true | none | none | |
| »»» violence | boolean | true | none | 审核模型检测到是否存在暴力内容 | |
| »»» violence | boolean | true | none | none | |
| »» category_scores | object | false | none | 审核模型对所有分类标签的得分 | |
| »»» hate | number | true | none | 审核模型对仇恨言论的得分 | |
| »»» hate | number | true | none | none | |
| »»» self-harm | number | true | none | 审核模型对自残内容的得分 | |
| »»» sexual | number | true | none | 审核模型对性内容的得分 | |
| »»» sexual | number | true | none | none | |
| »»» violence | number | true | none | 审核模型对暴力内容的得分 | |
| »»» violence | number | true | none | none | |
| »» flagged | boolean | false | none | 审核模型是否将输入内容标记为可疑内容 |