StarRocks 在七猫的应用(三)-实时数据写入与查询性能优化

为何选择 StarRocks 处理实时数据?在选择 StarRocks 前,我们在开发实时任务时基本只依靠 Flink 内部计算来实现各种场景。但是随着业务的发展,数据繁多、场景越发复杂、大家对数据的准确性要求越来越高,这种开发模式暴露出不少痛点,一起来看下我们的优化方案吧。…

多种数据同步方案在七猫的实践

伴随着七猫的发展,大数据团队针对不同业务场景和不同数据功能,调研和运用多种技术栈和数据库来来解决了各类数据存放和使用的问题。本文将七猫大数据团队在实践过程中的一些开发技巧和代码示例进行整理,一是用于技术的沉淀记录,二是希望通过该文章能帮助大家对各种数据库同步场景所有启发。…

基于 DolphinScheduler 的数据质量监控在七猫的实践

七猫正处于一个高速发展的阶段,数据分析和业务的发展方向非常注重数据的正确性。为了保证数据质量,我们之前的做法为在相关任务中加上自定义逻辑来检查数据是否正确。但是随着业务的快速迭代,数据量的高速增长和数据链路的复杂化,这种纯人工开发逻辑的方式已经难以跟上迭代速度,所以需要找到一个工具来帮助解决现状。…