亚马逊云科技-利用人工智能自动审核用户生成GenAI内容

亚马逊云科技-利用人工智能自动审核用户生成GenAI内容

关键字: [yt, Amazon Recognition, ]

本文字数: 400, 阅读完需: 2 分钟

导读

在这场演讲中,演讲者探讨了如何利用亚马逊云科技的人工智能服务,如Amazon Rekognition、Amazon Transcribe和Amazon Comprehend,实现对用户生成和第三方媒体内容的自动内容审核。他们阐释道,Rekognition能够使用预先训练的审核标签或基于特定数据训练的自定义标签,检测图像和视频中的不当内容。Transcribe可以转录音频/视频内容,并过滤掉不当语言或个人身份信息(PII)。Comprehend则可以检测PII,并使用自定义分类器对不安全文本进行分类。该演讲重点介绍了这些亚马逊云科技服务如何实现可扩展的内容审核,减轻人工审核员的工作量,提高用户安全性,并保护品牌声誉。

演讲精华

以下是小编为您整理的本次演讲的精华，共100字，阅读时间大约是0分钟。

在当今时代,用户生成内容(UGC)的激增已成为各行业面临的一大挑战。每年有数十亿张图像和数百万小时视频被上传,这些内容中可能包含仇恨言论、裸露、暴力、违禁物品等不当内容,需要遵循相关合规指引予以审核和移除。然而,依靠人工审核无法满足如此庞大的需求,因此亟需借助人工智能(AI)技术来提高审核效率。

社交媒体平台、广播媒体公司、营销和广告领域、电子商务和房地产网站以及游戏社区,都面临着需要审核用户生成内容的挑战。为解决这一难题,亚马逊云科技提供了多种AI服务,用于对图像、视频、音频和文本内容进行自动审核,从而大幅减轻人工审核的压力。

其中,Amazon Rekognition是一种图像和视频分析服务,具有内容审核API和自定义标签功能。内容审核API可识别10大类35小类不当内容,如裸露、暴力、仇恨等,并给出置信度评分。自定义标签功能则允许客户根据自身需求训练定制的计算机视觉模型。Rekognition还提供文本检测功能,可识别图像中的文字内容,辅助审核。

对于音频内容,亚马逊云科技提供了Amazon Transcribe语音转文本服务,支持多种语言用于批量处理和实时流式转录。Transcribe支持词汇过滤功能,可创建不当词语列表,在转录时自动屏蔽或删除这些词语。此外,Transcribe还能检测个人身份信息(PII),自动对其进行遮蔽,确保信息安全。

至于文本内容的审核,亚马逊云科技提供了Amazon Comprehend自然语言处理服务。Comprehend不仅能检测文本中的PII,还支持训练自定义分类器,以识别仇恨言论、欺凌、亵渎等不当内容。

通过采用上述Amazon Web Services AI服务,多家客户已获得了显著收益。图片分享平台、游戏社区、约会应用和教育公司等,都利用这些服务大幅减轻了人工审核工作量,降低了成本,优化了用户体验。

上述AI服务不仅能提高审核效率,降低成本,更能保护人工审核员免受不当内容的心理伤害。通过自动过滤最为敏感的内容,AI有助于为用户和广告商营造更安全的环境,提升整体体验。亚马逊云科技将持续优化这些AI模型,以满足不同客户的合规需求,最近还新增了多个审核标签,如毒品、烟草、酒精、赌博和仇恨符号等。

为方便客户使用和集成这些AI服务,亚马逊云科技还提供了一个名为”Media Insights Engine”的开源框架。该框架包括后端和前端两部分,前者通过REST API与Amazon Lambda函数集成,后者则提供了图形界面,支持上传和综合审核各类内容。审核结果会被存储在Elasticsearch中,用户可通过复杂搜索查询来发现各类不当内容。该框架旨在提供一个参考实现,方便客户根据自身需求进行定制和扩展。

总之,亚马逊云科技的AI服务为自动化审核用户生成内容提供了强大的工具支持。通过有效结合人工和AI的力量,平台可以更高效地管理海量内容,确保内容安全合规,为用户和品牌商营造更优质的体验。

总结

亚马逊云科技提供了多种人工智能服务,可用于自动化内容审核流程。Amazon Rekognition的内容审核API能够检测和标记图像和视频中的露骨、暗示性、暴力或令人不安的内容,从而实现自动过滤或标记供人工审查。Amazon Transcribe可将音频转录为文本,过滤不当词语或冒犯性词语,并编辑个人身份信息(PII),因此适用于审核音频内容。Amazon Comprehend则可分析非结构化文本,检测PII,并支持训练自定义分类器来识别特定类型的不当或不受欢迎的内容。

总体而言,这些信息强调了将人工智能服务与人工审核相结合的优势,能够减轻人工审查员的心理影响,提高用户安全性,并在保持品牌价值观和合规性的同时实现可扩展的内容审核。

该演讲展示了来自各个行业(包括照片分享、游戏、约会应用程序和教育)的客户成功案例,亚马逊云科技的人工智能服务显著降低了审核成本,提高了效率。它还演示了将这些服务集成到统一的内容审核流程中的实际示例和开源框架。

亚马逊云科技（Amazon Web Services）是全球云计算的开创者和引领者。提供200多类广泛而深入的云服务，服务全球245个国家和地区的数百万客户。亚马逊云科技致力于成为企业构建和应用生成式AI的首选，通过生成式AI技术栈，提供用于模型训练和推理的基础设施服务、构建生成式AI应用的大模型等工具、以及开箱即用的生成式AI应用。深耕本地、链接全球 – 在中国，亚马逊云科技通过安全、稳定、可信赖的云服务，助力中国企业加速数字化转型和创新，并深度参与全球化市场。