- 博客(302)
- 收藏
- 关注
RSS订阅原创 使用火山引擎 APMPlus 解决抖音Top 1 Java 崩溃的通用优化方案
背景近3个月，抖音 Android 版面临一个多次触发线上报警的崩溃问题，全量版本和灰度版本的异常数据激增，该问题不仅容易触发报警，更成为了 Java Top 1 崩溃问题，带来巨大困扰，急需攻坚解决。本文展现了具体的分析过程、优化思路和解决方案，同时提供了已集成该方案的实用工具。初步分析多维特征我们以某发版期间数据为例进行分析：机型方面：比较分散，有聚集部分samsung sm-s9180 占比...
2023-11-29 18:41:52
139
原创 用 Addon 增强 Node.js 和 Electron 应用的原生能力
前言Node.js Addon 是 Node.js 中为 JavaScript 环境提供 C/C++ 交互能力的机制。其形态十分类似 Java 的 JNI，都是通过提供一套 C/C++ SDK，用于在 C/C++ 中创建函数方法、进行数据转换，以便 JavaScript / Java 等语言进行调用。这样编写的代码通常叫做 Bindings。此外还有基于 C ABI Calling Convent...
2023-11-24 12:02:12
676
原创 火山引擎 ByteHouse 的增强型数据导入技术实践
作为企业数字化建设的必备要素，易用的数据引擎能帮助企业提升数据使用效率，更好提升数据应用价值，夯实数字化建设基础。数据导入是衡量OLAP引擎性能及易用性的重要标准之一，高效的数据导入能力能够加速数据实时处理和分析的效率。作为一款OLAP引擎，火山引擎云原生数据仓库ByteHouse源于开源ClickHouse，在字节跳动多年打磨下，提供更丰富的能力和更强性能，能为用户带来极速分析体验，支撑实时数据...
2023-11-17 12:01:09
528
原创 打造企业级智能问答系统的秘密：如何使用云数据库 PostgreSQL 版实现向量检索
本文就如何利用火山引擎云数据库 PostgreSQL 版和大语言模型技术（Large Language Model，简称 LLM），实现企业级智能交互式问答系统进行介绍。通过本文，你将会了解交互式问答系统的原理，学习 PostgreSQL 的向量化存储和检索技术，以及大语言模型交互技术等。背景在大数据的浪潮下，众多企业建立了自己的知识库，以便于信息检索和知识查询。然而，随着知识库内容的膨胀，传统的...
2023-11-15 11:23:16
525
原创 抖音大型直播的画质优化实践
面临挑战随着抖音内容生态的不断丰富，越来越多的大型赛事在抖音平台进行直播，世界杯/春晚/亚运会等各项赛事节目引来大量用户观看。卡塔尔世界杯期间，抖音提供的稳定高质直播画面为观众带来了完美的观赛体验，决赛的 PCU 高达 3700W+。不同赛事节目涉及链路众多，且不同赛事之间存在差异，如何保障各链路的画质稳定并进一步提升画质，是一个巨大的挑战。如何应对挑战？画质优化链路大型赛事直播涉及链路较长，不同...
2023-11-03 10:30:22
935
原创 抖音直播新一代BVC编码器正式亮相
面临挑战在直播行业发展如火如荼的今天，用户对视频体验的要求也水涨船高。视频基础体验的关键要素包括清晰度、流畅度、低延迟等，而这些要素的“第一性原理”，就是视频本身的编码效率，也就是压缩率。视频编码是整个技术体系的基座，编码效率的显著提升，能够在同等码率下极大提高画质，从而改善用户体验。视频编码效率的重要性不言而喻，但进一步地提升也并非易事，尤其在直播场景中，对编码速度、延迟、码率控制等方面都有很高...
2023-11-01 10:30:59
923
原创 Go Metrics SDK Tag 校验性能优化实践
背景Metrics SDK 是与字节内场时序数据库 ByteTSD 配套的用户指标打点 SDK，在字节内数十万服务中集成，应用广泛，因此 SDK 的性能优化是个重要和持续性的话题。本文主要以 Go Metrics SDK 为例，讲述对打点 API 的 hot-path 优化的实践。用户在使用 SDK API 进行打点时，需要传入指标对应的 Tag：tags:=[]m.T{{Name:"foo...
2023-10-30 10:39:27
2595
1
原创 云上智能驾驶三维重建最佳实践
智能驾驶技术的不断发展，正在改变着我们的出行方式和交通系统。作为其中的一个关键技术，三维重建在智能驾驶系统中起着重要的作用。除去车端本身的感知、重建算法，自动驾驶技术的落地与发展需要庞大的云端重建能力支撑，火山引擎多媒体实验室通过行业领先的自研三维重建技术，结合强大的云平台资源与能力，助力相关技术在云端大规模重建、自动标注、真实感仿真等场景的落地与应用。本文重点介绍火山引擎多媒体实验室三维重建技术...
2023-10-20 17:02:49
1191
原创 火山引擎实时、低延时拥塞控制算法的优化实践
摘要火山引擎智能拥塞控制算法 VICC（Volcano Intelligent Congestion Control）是一种自适应的拥塞控制算法，旨在解决全球不同网络环境下，不同音视频应用对带宽利用率和延时的差异化要求。它结合了传统拥塞控制算法（如 GCC 和 BBR）的优点，并且能够根据不同的网络条件、业务偏好和码率特征进行自适应调整，包括自适应拥塞响应速度、自适应带宽探测幅度、自适应丢包检测策...
2023-10-18 11:59:15
1496
原创 veImageX 演进之路：Web 图片加载提速50%
背景说明火山引擎veImageX演进之路主要介绍了veImageX在字节内部从2012年随着字节成长过程中逐步演进的过程，演进中包括V1、V2、V3版本并最终面向行业输出；整个演进过程中包括服务端、客户端、网络库、业务场景与优化等多个角度介绍在图像处理压缩、省成本与体验优化的经验与方案；本篇文章重点介绍在web端演进和提供的能力，图片是 Web 站点中的重要元素，图片体积、格式、分辨率以及渲染方式...
2023-09-26 16:30:30
2300
原创 自研多模态追踪算法 PICO 为「手柄小型化」找到新思路
作者：张韬、林泽一 、闻超 、赵洋研发背景作为头戴的追踪配件，VR手柄可以通过HMD（头戴显示设备）的inside-out光学追踪定位原理，计算出手柄的空间运动轨迹，同时结合6轴传感器实现6DoF空间定位。与此同时，结合手柄控制器的物理按键、马达反馈、摇杆等，用户还能获得逼真、细腻的触觉反馈，进一步增强虚拟现实人机交互的能力以及沉浸感，这也是目前无手柄方案所难以实现的。目前主流VR手柄的追踪技术方...
2023-09-22 15:34:05
2504
原创 如何利用播放器节省20%点播成本
点播成本节省的点其实涉及诸多部分，例如：CDN、转码、存储等，而利用播放器降本却是很多客户比较陌生的部分。火山引擎基于内部支撑抖音集团相关业务的实践，播放器恰恰是成本优化中最重要和最为依赖的部分。火山引擎的视频团队做了份数据统计，在一个很经典的视频业务中，我们在2022年至2023年大约1年半的时间里，针对这个业务进行了33次成本优化点，其中13次是播放器主导的优化，其余的有12次也是需要播放器强...
2023-09-21 21:57:46
2300
原创 火山引擎 ByteHouse：ClickHouse 如何保证海量数据一致性
背景ClickHouse是一个开源的OLAP引擎，不仅被全球开发者广泛使用，在字节各个应用场景中也可以看到它的身影。基于高性能、分布式特点，ClickHouse可以满足大规模数据的分析和查询需求，因此字节研发团队以开源ClickHouse为基础，推出火山引擎云原生数据仓库ByteHouse。在日常工作中，研发人员经常会遇到业务链路过长，导致流程稳定性和数据一致性难保障的问题，这在分布式、跨服务的场...
2023-09-15 09:30:25
3034
原创 抖音集团都在用的画质评估工具，确定不试试吗？
导读本文从抖音集团内部画质评估体系的建设历程着笔，主要分享了画质评测对于业务的重要性、主要应用场景和内部产品的一些典型实践案例。通过分享业务视角遇到的一些问题和我们的解决思路，希望能抛砖引玉，为遇到类似困扰的伙伴们提供有价值的参考。画质评估体系建设历程为何评测画质如此重要？我们通过线上业务大量实验发现，图片画质优劣对点击率、 停留时长等消费类指标有正相关影响，间接影响用户收益指标。因此，建设一套行...
2023-09-07 10:45:53
2718
原创 VLDB 2023 ｜ CDSBen: 字节跳动 veDB 数据库存储系统性能测试模型
背景随着业务爆炸式增长与云原生技术的日渐成熟，大量云原生分布式数据库产品如雨后春笋般涌现，其中一部分主打 OLTP 场景的分布式数据库强调的是从计算-存储分离架构获得弹性收益；对于业界各种计算-存储分离架构的数据库而言，怎么用真实的端到端数据库 workload 去 benchmark 其底层存储系统一直存在以下难题：对于数据库专用存储系统，不存在如 fio 一样的“事实标准” benchmark...
2023-09-02 10:02:15
2941
原创 Interspeech 2023 | 火山引擎流媒体音频技术之语音增强和AI音频编码
背景介绍为了应对处理各类复杂音视频通信场景，如多设备、多人、多噪音场景，流媒体通信技术渐渐成为人们生活中不可或缺的技术。为达到更好的主观体验，使用户听得清、听得真，流媒体音频技术方案融合了传统机器学习和基于AI的语音增强方案，利用深度神经网络技术方案，在语音降噪、回声消除、干扰人声消除和音频编解码等方向，为实时通信中的音频质量保驾护航。作为语音信号处理研究领域的旗舰国际会议，Interspeech...
2023-09-01 11:01:22
3075
原创 火山引擎ByteHouse：一套方案，让OLAP引擎在精准投放场景更高效
由于流量红利逐渐消退，越来越多的广告企业和从业者开始探索精细化营销的新路径，取代以往的全流量、粗放式的广告轰炸。精细化营销意味着要在数以亿计的人群中优选出那些最具潜力的目标受众，这无疑对提供基础引擎支持的数据仓库能力，提出了极大的技术挑战。本篇内容将聚焦字节跳动OLAP引擎技术和落地经验，以字节跳动内部场景为例，具体拆解广告业务的实现逻辑和业务效果。广告精准投放场景广告投放过程一般包含数据收集-&...
2023-08-18 12:14:11
3317
原创 广告案例｜10亿数据、查询<10s，论基于OLAP搭建广告系统的正确姿势
由于流量红利逐渐消退，越来越多的广告企业和从业者开始探索精细化营销的新路径，取代以往的全流量、粗放式的广告轰炸。精细化营销意味着要在数以亿计的人群中优选出那些最具潜力的目标受众，这无疑对提供基础引擎支持的数据仓库能力，提出了极大的技术挑战。背景人群圈选分析是客户画像平台(CDP)中的核心功能。分析师利用各种标签组合，挑选出最合适的人群，进而进行广告推送，达到精准投放的效果。同时由于人群查询在不同标...
2023-08-11 15:30:18
3209
原创 超低延时直播技术的前世今生
作者：李晨光、匡建鑫、陈鉴平卷首语：据中国互联网络信息中心发布的《中国互联网络发展状况统计报告》显示，截止到 2022 年 6 月我国网络直播用户规模达到了 7.16 亿，占网民整体的 68.1% 。最主要原因是 2020 年度疫情期间导致居家办公和休闲娱乐的人数呈现激增，新媒体互动直播成为了广大网民最重要的休闲娱乐方式之一。随着直播产业链的不断扩展完备升级，相关产业链各个环节分工逐渐明确且各环节...
2023-08-09 16:00:59
3340
原创 字节跳动基于 Hudi 的机器学习应用场景
动手点关注干货不迷路本文为 Apache Hudi 技术社区分享会第十期嘉宾分享文章，主要介绍火山引擎 LAS 团队自研的多场景样本离线存储技术，用于处理机器学习系统的离线数据流。同时，还会为大家揭秘流批一体样本生成的过程，分享对 Hudi 内核所做出的优化和改造，探索其在数据处理领域的实际应用和效果。文末更有专属彩蛋，新人优惠购福利，等着你来解锁！本篇文章提纲如下：业务场景离线样本存储与迭代流批...
2023-07-20 12:06:55
4018
原创 火山引擎云搜索服务升级云原生新架构，提供数十亿级分布式向量数据库能力...
动手点关注干货不迷路从互联网发展伊始，搜索技术就绽放出了惊人的社会和经济价值。随着信息社会快速发展，数据呈爆炸式增长，搜索技术通过数据收集与处理，满足信息共享与快速检索的需求。云搜索服务 ESCloud 是火山引擎提供的完全托管在线分布式搜索服务，兼容 Elasticsearch、Kibana 等软件及常用开源插件。可以提供结构化、非结构化文本的多条件检索、统计、报表，帮助实现一键部署、弹性扩...
2023-07-13 12:02:50
2458
原创 字节跳动开源 Kelemetry：面向 Kubernetes 控制面的全局追踪系统
动手点关注干货不迷路Kelemetry是字节跳动开发的用于Kubernetes控制平面的追踪系统，它从全局视角串联起多个 Kubernetes 组件的行为，追踪单个 Kubernetes 对象的完整生命周期以及不同对象之间的相互影响。通过可视化 K8s 系统内的事件链路，它使得 Kubernetes 系统更容易观测、更容易理解、更容易 Debug。背景在传统的分布式追踪中，“追踪”通常对应于用户请...
2023-07-05 12:03:31
4474
原创 重要升级！btrace 2.0 技术原理大揭秘
动手点关注干货不迷路项目 GitHub 地址：https://github.com/bytedance/btrace背景介绍在一年多前，我们对外正式开源了 btrace（AKA RheaTrace），它是基于 Systrace 的高性能 Trace 工具，目前字节跳动已经有接近 10+ 产品团队使用 btrace 做日常性能优化工作。在这一年期间，我们收到很多社区以及公司内部反馈，包括使用体验、...
2023-06-26 12:01:19
4876
原创 ByteHouse 与 Apache Airflow 的数据管理流程
动手点关注干货不迷路Apache Airflow 与 ByteHouse 相结合，为管理和执行数据流程提供了强大而高效的解决方案。本文突出了使用 Apache Airflow 与 ByteHouse 的主要优势和特点，展示如何简化数据工作流程并推动业务成功。主要优势：可扩展可靠的数据流程：Apache Airflow 提供了一个强大的平台，用于设计和编排数据流程，让您轻松处理复杂的工作流程。搭配 ...
2023-06-19 12:01:27
4741
原创 直播 RTM 推流在抖音的应用与优化
动手点关注干货不迷路背景随着互联网技术以及网络基建的快速发展和普及，视频直播已经成为了一种越来越普遍的娱乐和社交方式。无论是个人还是企业，都可以通过视频直播平台进行直播活动，向观众展示自己的生活、工作或者产品。同时，视频直播也成为了一种新型的社交媒体，让人们可以在虚拟空间中进行互动交流。RTM（Real Time Media，低延时直播）是近期逐步兴起的一种以提升客户交互体验为目标的直播解决方案，...
2023-06-16 12:01:53
5814
原创 字节跳动提出高性能 transformer 推理库，获 IPDPS 2023 最佳论文奖
动手点关注干货不迷路字节跳动与英伟达, 加州大学河滨分校联合发表的论文 《ByteTransformer: A High-Performance Transformer Boosted for Variable-Length》在第 37 届 IEEE 国际并行和分布式处理大会（IPDPS 2023）中，从 396 篇投稿中脱颖而出，荣获了最佳论文奖。该论文提出了字节跳动的 GPU transfor...
2023-06-15 12:02:45
4808
原创 自研算法提升文本图像篡改检测精度，抖音技术团队获 ICDAR2023 分类赛道冠军...
动手点关注干货不迷路近日，抖音 CV 技术团队在 ICDAR 2023 的“Detecting Tampered Text in Images”比赛中，利用自研的“CAS”算法从 1267 个参赛队伍中脱颖而出，获得分类赛道的第一名。ICDAR（International Conference on Document Analysis and Recognition），是国际文档图像分析和识别领域...
2023-06-14 12:02:45
5591
原创 WebTransport 开播的应用实践之路
动手点关注干货不迷路Web开播的业务挑战无论是本地软件推流还是Web推流，都需要解决推流抖动、画面高糊、音频卡顿等问题。在现有的Web技术环境下，如何稳定地把高质量的音视频流呈现给更多用户，是我们技术团队攻克的重点。从技术角度来解读一下这里的几个关键词：稳定性: 传输协议本身的稳定性是需要保障的，优先会选择使用可靠传输，防止网损带来的花屏、杂音等问题，更重要的是，在服务链路不可用的情况下能够迅速切...
2023-06-12 12:03:38
4844
原创 字节跳动大数据容器化构建与落地实践
动手点关注干货不迷路随着字节跳动旗下业务的快速发展，数据急剧膨胀，原有的大数据架构在面临日趋复杂的业务需求时逐渐显现疲态。而伴随着大数据架构向云原生演进的行业趋势，字节跳动也对大数据体系进行了云原生改造。本文将详细介绍字节跳动大数据容器化的演进与实践。字节跳动大数据业务发展现状从2017年起，字节跳动陆续推出多款广为人知的热门应用，如抖音、今日头条、西瓜视频、剪映、番茄小说、懂车帝等。随着行业的快...
2023-06-09 12:02:54
5304
1
原创 ICASSP 2023 | 解密实时通话中基于 AI 的一些语音增强技术
动手点关注干货不迷路背景介绍实时音视频通信 RTC 在成为人们生活和工作中不可或缺的基础设施后，其中所涉及的各类技术也在不断演进以应对处理复杂多场景问题，比如音频场景中，如何在多设备、多人、多噪音场景下，为用户提供听得清、听得真的体验。作为 RTC 方案中不可或缺的技术，语音增强技术正从传统的基于统计学习的方案向基于深度学习的方案融合演进，利用 AI 技术，可以在语音降噪、回声消除、干扰人声消除...
2023-06-08 12:03:07
5296
1
原创 Baseline Profile 安装时优化在西瓜视频的实践
动手点关注干货不迷路背景在Android上，Java/Kotlin代码会编译为DEX字节码，在运行期由虚拟机解释执行。但是，字节码解释执行的速度比较慢。所以，通常虚拟机会在解释模式基础上做一些必要的优化。在Android 5，Google采用的策略是在应用安装期间对APP的全量DEX进行AOT优化。AOT优化（Ahead of time），就是在APP运行前就把DEX字节码编译成本地机器码。虽然...
2023-06-02 12:02:48
4508
1
原创 让文物“活”起来，火山引擎视频云三维重建技术揭秘
动手点关注干货不迷路中国历史悠久，文化底蕴深厚，文物数目众多，文物作为前人智慧的结晶，其文献价值不言而喻。古籍是记录中华文明的重要载体，也是流传至今的宝贵文化遗产，文物保护也是一项长期重要的基础工作。全国2800多家图书馆收藏有超过5000万册的古籍，其中1/3存在不同程度的破损。按现有的文物修复人员数量，需要数百年的时间才能把馆藏文物全部修复好。《古籍寻游记》是字节跳动联合中国第一历史档案馆、敦...
2023-06-01 12:01:05
4295
原创 多链路传输技术在火山引擎 RTC 的探索和实践
动手点关注干货不迷路传统的数据传输方式大多是利用一个链路、选择设备的默认网卡进行传输，使用这种方式实现实时音视频通话时，如果默认网络出现问题（如断网、弱网等），用户的通信就会发生中断或者卡顿，影响用户体验。多链路传输，顾名思义，就是使用多个链路进行传输数据的一种技术。近年来，单设备上支持多个可用网卡的技术越来越普遍，比如我们的手机就同时支持无线网卡和 4G/5G 网卡，有些双卡手机还能同时支持两个...
2023-05-31 12:01:40
3836
1
原创 Jeddak-DPSQL 首次开源！基于差分隐私的 SQL 代理保护能力
动手点关注干货不迷路1. 背景火山引擎对于用户敏感数据尤为重视，在火山引擎提供的数据分析产品中，广泛采用差分隐私技术对用户敏感信息进行保护。此类数据产品通常构建于 ClickHouse 等数据引擎之上，以 SQL 查询方式来执行计算逻辑，且查询逻辑往往较为复杂，因此对差分隐私的应用提出了以下要求：零改造、零感知：最大程度避免影响业务现有查询方式，最好做到业务零感知、零改造；良好、灵活的适配性：...
2023-05-24 13:40:08
4142
原创 字节跳动开源其云原生数据仓库 ByConity
动手点关注干货不迷路项目简介ByConity 是字节跳动开源的云原生数据仓库，它采用计算-存储分离的架构，支持多个关键功能特性，如计算存储分离、弹性扩缩容、租户资源隔离和数据读写的强一致性等。通过利用主流的 OLAP 引擎优化，如列存储、向量化执行、MPP 执行、查询优化等，ByConity 可以提供优异的读写性能。项目背景ByConity 的背景可以追溯到 2018 年，当时字节跳动开始在内...
2023-05-22 12:00:23
3971
原创 Apache Iceberg 中引入索引提升查询性能
动手点关注干货不迷路Apache Iceberg 是一种开源数据 Lakehouse 表格式，提供强大的功能和开放的生态系统，如：Time travel，ACID 事务，partition evolution，schema evolution 等功能。本文将讨论火山引擎EMR团队针对 Iceberg 组件的优化思路，通过引入索引来提高查询性能。采用 Iceberg 构建数据湖仓火山引擎 E-M...
2023-05-17 12:04:08
4282
原创 助力 VR/AR 等复杂图像场景极致高清，火山引擎夺得 NTIRE 大赛双料冠军
动手点关注干货不迷路近日，CVPR Workshop 下属的 NTIRE2023大赛公布比赛结果，在双目超分双三次插值保真赛道和360° 全景图像超分赛道上，火山引擎多媒体实验室凭借自主研发的算法获得了双料冠军，技术能力达到行业领先水平。NTIRE（New Trends in Image Restoration and Enhancement）是新兴的计算机视觉国际竞赛，每年在模式识别和机器视觉...
2023-05-15 12:03:28
4141
原创 入门与 Follow GPT 的路径分析：LLM 道阻且长，行则将至
动手点关注干货不迷路本文只用于技术交流，仅代表作者个人观点。作为 CEO，Sam 将 OpenAI 的内部氛围组织的很好，有位 OpenAI 的前员工告诉拾象团队，当 2018 年 GPT-2 的论文被驳回时，Sam 在团队周会上将拒信的内容朗读给所有员工，并告诉大家在通往成功的路上总会有阻碍，但是大家一定要有信念。本文试图从技术角度，借助 GPT 的公开资料，解读如何入门 GPT 以及相关大语言...
2023-05-12 12:03:01
4401
原创 火山引擎 BVE 视频图片硬件编码器演进之路
动手点关注干货不迷路前言近日，第 17 届世界编码器大赛 MSU 2022 公布硬件编码器比赛结果，在 60 fps（帧率）的超快视频编码赛道上，火山引擎多媒体实验室自主研发的 BVE 1.1 编码器表现突出，荣获最佳 FPGA 编码器（各项指标大幅领先）；并在所有硬件编码器中，技术指标获得一项第一和两项第二，技术能力达到行业领先水平。MSU 编码器比赛是由国际机构主办和测评，是视频编码业内影响力...
2023-04-27 12:03:16
4461
原创 veImageX 演进之路：iOS 高性能图片加载 SDK
动手点关注干货不迷路1. SDK简介图片在业务应用场景是一个常见的元素，veImageX（简称ImageX）为业务提供了灵活、高效的一站式图片处理解决方案，包括了服务端 SDK、上传 SDK 和客户端图片加载 SDK。本文就来介绍下 iOS 客户端图片加载 SDK（下文中简称 SDK），SDK 主要提供图片网络加载、图像解码、图片基础处理与变换以及图片服务质量监控上报等能力。1.1 业内主流开源...
2023-04-24 12:04:39
4326
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人