字节跳动在 AR 领域深耕已久,此次开放的多个 AR 功能已成功应用于字节跳动旗下的抖音、火山小视频、faceu 等多款产品中,并催生出多个网红爆款。
6 月 25 日,字节跳动宣布推出 AR 特效平台 Byted Effect。目前该平台面向企业用户免费开放,以帮助相关 APP 实现便捷高效地 AR 特效开发,推动 AR 产业的发展及应用。
字节跳动在 AR 领域深耕已久,此次开放的多个 AR 功能已成功应用于字节跳动旗下的抖音、火山小视频、faceu 等多款产品中,并催生出多个网红爆款。
除了「憨厚脸」、「甩狗头」这些流行全网的贴纸特效,不久前,国际博物馆日,抖音曾利用业内领先的 Slam 和 3D 渲染技术,创造出两款「奇妙博物馆」AR 贴纸。与之相关的「博物馆抖音创意视频大赛」吸引上百万人关注。
在此之前,抖音也推出过实时人像抠图、染发等多种特效。去年年底,基于「人体关键点检测技术」的尬舞机功能推出后,抖音就在 App Store 中国区登顶。
此次开放的 Byted Effect 由字节跳动人工智能实验室(AI Lab)的图像算法工程团队自主研发,稳定运行于 DAU 过亿的产品上,性能和鲁棒性都经过真刀真枪的考验,具备速度快、功耗低等特性。目前,AR 平台已开放人脸检测、美颜、滤镜 3 个模块。
其中,人脸检测模块采用了 AI Lab 自研算法,能进行 106 点精确定位,准确检测人脸轮廓和特征,可识别闭眼、嘴巴张开、摇头、点头、眉毛挑动、嘟嘴 6 种动作,更多的功能,包括人脸属性识别,年龄识别将在未来开放。该模块的计算完全实时进行,占用计算资源少,可完美适配几百元的低端机型。
此外,人脸检测算法在复杂环境(比如暗光)下鲁棒性强,即便识别对象佩戴眼镜也依然可以正常运作。
美颜模块则包含了市面上主流的美颜功能,包括实时磨皮、美白、大眼瘦脸,整体效果自然不失真,支持用户自行对美颜效果进行分级调节。开发者可直接接入手机或 app,实现视频流或图像美颜处理功能。
另一滤镜模块利用 GPU 处理功能,速度快,性能大幅提高,可以满足视频流处理、图片处理等各种应用场合,通过配置资源,可以实现多种不同的滤镜效果。
开发者亦可根据不同热点或需求自行开发,为拍照、视频或直播 App 为用户带来更多玩法,打造差异化体验,使真实世界能以个性化的方式表达,从而带动增强用户粘性、刺激平台的营收增长。
据记者了解,目前,借助 Byted Effect 中的人脸检测和关键点定位算法的 2D/3D 贴纸功能在当前版本中暂未开放。
产品相关产品负责人表示,Byted Effect 将持续增加模块,比如应用于抖音尬舞机的人体关键点检测、实时人像抠图、实时染发等,将于本年度上线,以满足越来越多样的 AR 特效需求。
去年苹果在 WWDC2018 开发者大会上发布了 ARKit 开发包,作为开发 iOS 平台 AR 功能的框架,今年 4 月,另一科技巨头 Facebook 也宣布开放 AR 平台 World Effects。苹果 CEO 库克曾表示,增强现实技术将改变世界。
字节跳动表示,此次免费向业界开放人脸关键点检测等核心能力,是希望通过产品已有的技术积累,降低开发者的开发成本和难度,扶持优秀开发者、帮助构建中国的 AR 生态圈。