SQL and Hadoop Query Performance Smackdown
LLAP wins the fastest execution among the SQL engines! Comcast is one of the nation’s leading providers of communications, entertainment and cable products and services. Headquartered in Philadelphia,...
View ArticleProphecy Fulfilled: Keras and Cloudera Data Science Workbench
Alas! what a great loss there will be to learning before the cycle of the Moon is completed. “ The Prophecies of Nostradamus “, Century I, 62 In 1555, did Nostradamus predict deep learning built on...
View Article千亿级服务器监控数据存储实践
导语 公司目前有几十万台左右服务器,TMP(腾讯监控平台)平均每天采集1200亿+监控数据,本文将从当前存储架构存在的问题出发,介绍使用大数据平台组件Hbase存储TMP监控数据的实践历程。 背景 近几年开源的大数据处理系统已经逐步发展到一个比较成熟的阶段了,各类大数据处理的场景都有了相应的解决方案,如同 mysql 在当今互联网公司中的关系数据存储广泛应用地位一样。...
View ArticleHBase在阿里搜索中的应用实践
李钰,花名绝顶,WOTA全球架构与运维技术峰会分享嘉宾,现任阿里巴巴搜索事业部高级技术专家,HBase开源社区PMC & committer。开源技术爱好者,主要关注分布式系统设计、大数据基础平台建设等领域。连续3年基于HBase/HDFS设计和开发存储系统应对双十一访问压力,具备丰富的大规模集群生产实战经验。...
View ArticleRedis 笔记
持久化机制 Redis 支持两种持久化方式,RDB 方式 和 AOF 方式 RDB 方式 RDB 通过快照 snapshotting 完成,也是 Redis 默认的持久化方式,当符合一定条件时 Redis 会自动将内存中的所有数据以快照方式保存一份副本到硬盘上(dump.rdb),这个过程称为”快照“。 Redis 根据以下情况执行快照: 根据配置规则进行自动快照 用户执行 SAVE 或者...
View ArticleFinancial Services & Neo4j: Cybersecurity
ByUtpal Bhatt, VP of Global Marketing | August 1, 2017 Cybersecurity is of critical importance to financial services firms. IT organizations must mitigate cybersecurity risk, both in terms of external...
View Articlesbc(三)自定义Starter-SpringBoot重构去重插件
前言 之前看过 SSM(十四) 基于annotation的http防重插件 的朋友应该记得我后文说过之后要用 SpringBoot 来进行重构。 这次采用自定义的 starter 的方式来进行重构。 关于 starter(起步依赖) 其实在第一次使用 SpringBoot 的时候就已经用到了,比如其中的: <dependency>...
View ArticleFour Survival Tips for the Accidental DBA
Zack Kendra Blue Medora Zack Kendra is Principal Software Engineer at Blue Medora. Let’s be honest, most of us have inherited a database administrator gig. Either you’re a dev that’s deployed a new...
View ArticleRedis as a database
I want to use Redis as a database, not a cache. From my (limited) understanding, Redis is an in-memory datastore. What are the risks of using Redis, and how can I mitigate them? Problem courtesy of:...
View ArticleMADCAP IDEA PART 7 : REGISTRATION/LOGIN BACKEND
Last Time So let me start with an apology that it has taken me so long to get this new post up since last time. I have snuck in a holiday and been on a training course which really only left me 1 week...
View ArticleKoneksa Health Brings Real-World Data to Clinical Trials
Traditionally, patients participating in clinical trials had to go to a lab or research hospital to submit data. It might be a blood pressure reading, a questionnaire about how a new medication affects...
View Article使用springboot中mongotemplate做crud
Spring Data for MongoDB 是Spring Data项目的一部分,旨在为新的数据存储提供一种熟悉且一致的基于Spring的编程模型,同时保留特定于存储的功能和功能。Spring Data提供了诸多数据库操作模板,如:reidstemplate、jdbctemplate等。...
View Article第四周
1.复制/etc/skel目录为/home/tuser1,要求/home/tuser1及其内部文件的属组和其他用户均没有任何访问权限。 [root@node1 ~]# cp -r /etc/skel/ /home/tuser1 [root@node1 ~]# chmod -R go= /home/tuser1 [root@node1 ~]# ls -la /home/tuser1 total 16...
View ArticleHow to use Redis for real-time stream processing
Real-time streaming data ingest is a common requirement for many big data use cases. In fields like IoT, e-commerce, security, communications, entertainment, finance, and retail, where so much depends...
View ArticleNeo4J Tutorial Published Video!
You may have noticed that my stream of thought posts on Neo4J. It’s pained my, cause you know, drawing the balls is fun. Today, I get to announce a published video tutorial on Neo4J by Packt...
View Article试用了这几天的 ngx_pagespeed 还是放弃了!
最近给所有的站点都启用了 Fastcgi_cache 和 ngx_pagespeed ,具体大家可以参考【 Nginx下使用Fastcgi_cache和ngx_pagespeed优化WordPress性能 】一文,整体上来说对 Fastcgi_cache 还是很满意的,缓存很稳定,几乎没有不兼容的场景,缓存效能也是非常的突出,就是 ngx_pagespeed...
View ArticleDegree Centrality of a Graph
I wanted to spend some time on centrality measures of a graph. These are measurements of how important each node (or edge) is to the overall graph. But how do we define, or determine, importance? There...
View Article快速成长期的云原生应用架构实践
在经过了最初的业务原型验证和上线运行期之后,用户业务进入了高速成长阶段。在这一阶段,业务重点不再是方向上的调整,而是在原来基础上的不断深挖、扩展;开发不仅是功能的实现,还需要兼顾成本和性能;系统不再是单体架构,还会涉及系统的扩展和多系统之间的通信;高可用也不仅是服务自动拉起或者并行扩展,还需要考虑数据可靠、对用户影响,以及服务等级协议(SLA)。...
View Articlemongodb3 ubuntu离线安装(非apt-get)及用户管理
目前mongodb已经出到3.x,相对于2.x改动较大,本着学新不学旧的原则来捣鼓nosql数据库。最初想着apt-get安装但是软件源上都是2.x的,遂下载好后传到服务器安装。 1.下载 不得不说国内的墙太厉害,连mongodb这类人畜无害的都挡了,虽然能够访问官网也能下载,但是速度从来不超过三十k,所以在某盘找到了源文件,下载地址 http://pan.baidu.com/s/1nu96i1b...
View ArticleMongodb实战之全文搜索功能
前言众所周知在传统的关系型数据库中,我们通常将数据结构化,通过一系列表关联、聚合来查询我们所需的结果。而在非结构化的数据中,缺少这种预定义的结构,因而如何快速查询定位到我们所需要的结果,不是一件容易的事。Mongodb作为一种NoSQL数据库,非常适合存储和管理非结构化数据,例如互联网上的各种文本数据。假如我们用Mongodb存储了很多博客文章,那么如何快速找到所有关于“nodejs”这个主题的文章...
View Article