redis数据结构存储SDS设计细节(redis的设计与实现笔记)
redis虽说是用C语言开发的,但是redis考虑了性能、安全性、效率性、功能等要,redis底层存储字符串实现,自己实现了名为简单动态字符串(Simple dynamic string)简称SDS的结构来存储字符串,这个结构有int len(当前字符串长度), int free(未使用的字符串长度可以说是缓冲), char buf[](存储的字符串数组)这几个变量。...
View ArticleCreate a RESTful URL Shortener with Couchbase and Go
Previously I wrote about creating a URL shortener using Node.js and N1QL , but I figured it would be useful to demonstrate the same in my other favorite programming language, Golang. In this video...
View ArticleAzure Redis Cache Introduction
Microsoft Azure Redis Cache is based on the popular open source Redis Cache. It gives you access to a secure, dedicated Redis Cache, managed by Microsoft. A cache is created, using Azure Redis Cache,...
View Articlefsync 和 fdatasync
最近在读微信开源的 paxos 实现 phxpaxos ,读到 localstorage 部分学习到 fdatasync 系统调用。这一部分是非常核心的存储模块,参与者的状态信息、变更日志等都要写入磁盘并且可能要求强制刷入存储磁盘避免系统崩溃等情况下数据丢失,性能的很大一部分因素取决于这一块的实现。 phxpaxos 使用了 LevelDB 做存储,但是做了几个优化: LevelDB 存储的...
View ArticleRedis Highlights (1) Redis中的类型和数据结构
Redis中的类型和数据结构 redis对外有5中基本类型,分别是string t_string.c , list t_list.c , hash t_hash.c , set t_set.c 和 zset (ordered set) t_zset.c . 这5种类型是“接口”而不是“实现”,因此redis得以根据不同的情形自由选择不同数据结构的实现,这也是redis在设计上的高明之处。...
View Articleredis-cli中那些或许我们还不知道的一些实用小功能
玩过redis的朋友都知道,redis中有一个叫做redis-cli的小工具,我们可以利用它在test和develop环境下进行高效的模拟测试,然而在现实环境中, 我们只知道直接键入redis-cli启动命令的交互式,而这个对redis-cli来说绝对是九牛一毛,下面我逐一给大家演示下。 一:非REPL (Read Eval Print Loop) 模式...
View ArticleMongoDB权威指南第二版学习笔记――MongoDB简介
MongoDB 简介 MongoDB 在功能和复杂性之间取得了很好的平衡,并且大大简化了原先十分复杂的任务,它具备支撑今天主流 web 应用的关键功能:索引、复制、分片、丰富的查询语法,特别灵活的数据模型。与此同时还不牺牲速度。 MongoDB 是一款强大、灵活,且易于扩展的通用型数据库。能扩展出非常多的功能,如二级索引、范围查询、排序、聚合,以及地理空间索引。 设计特点 易于使用 MongoDB...
View ArticleMapR 2017 Predictions: Cloud and Virtualization Will Drive the Next Wave of...
Virtualization and Cloud executives share their predictions for 2017. Read them in this 9th annual VMblog.com series exclusive. Contributed by Dale Kim, senior director, Industry Solutions, MapR Cloud...
View ArticleMapR Ecosystem Pack program gets an update
MapR Technologies, Inc. has announced the next major release of the MapR Ecosystem Pack program, a broad set of open source ecosystem projects that enable big data applications running on the MapR...
View Article再谈C#采集,一个绕过高强度安全验证的采集方案?方案很Low,慎入
说起采集,其实我是个外行,以前拔过阿里巴巴的客户数据,在我博客的文章: C#+HtmlAgilityPack+XPath带你采集数据(以采集天气数据为例子)...
View ArticleRedis性能问题排查解决手册
性能相关的数据指标 通过Redis-cli命令行界面访问到Redis服务器,然后使用info命令获取所有与Redis服务相关的信息。通过这些信息来分析文章后面提到的一些性能指标。 info命令输出的数据可分为10个类别,分别是: server clients memory persistence stats replication cpu commandstats cluster keyspace...
View ArticleConfiguring memory for MapReduce running on YARN
The most common issue that I bump into these days when running MapReduce jobs is the following error: Application application_1409135750325_48141 failed 2 times due to AM Container for...
View Article5 Reasons Business Intelligence on Hadoop Projects Fail
Business Intelligence (BI) on Hadoop Projects Are Difficult to Execute Successfully Hadoop has its own set of constraints and problems, and when you throw BI into the mix it’s a whole other ballgame....
View Article浅析国内的Redis认知误区
日前,Redis中国用户会(CRUG)首次常委会正式召开,本次会议选举出新浪微博张冬洪为主席、阿里云数据库高级专家蔡松露为中国用户会技术大学校长。 Redis中国用户组成立于今年5月20日,是由阿里云、新浪微博、唯品会、去哪儿等Redis一线工程师联合发起的非营利性技术组织。该组织希望通过吸引Redis爱好者加入,从而推动Redis技术在中国的更多交流和应用。...
View ArticleRedis4.0新特性
在12月初, redis 发布了4.0-rc1。其中做了很多新特性的介绍。本文就来简单说下有哪些东西。 不过在没过几天之后又发布了redis 4.0-rc2,做了很多紧急修复。不过本来也不是正式版,问题很多也很正常。大家可以自己下载来玩玩,不要用于生产环境。 新特性如下: 模块系统...
View ArticleHadoop官方文档翻译――HDFS Architecture 2.7.3
HDFS Architecture Introduction TheHadoop Distributed File System (HDFS) is a distributed file system designed to run on commodity hardware. It has many similarities with existing distributed file...
View ArticleApproach The Next Data Initiative Like A Data Analyst
Approach The Next Data Initiative Like A Data Analyst by Sam McFarland , on December 7, 2016 Estimated reading time: 6 minutes and 18 seconds As a data analyst, I’ve been fortunate enough to have been...
View ArticleMongoDB权威指南第2版学习笔记
MongoDB 简介 MongoDB 在功能和复杂性之间取得了很好的平衡,并且大大简化了原先十分复杂的任务,它具备支撑今天主流 web 应用的关键功能:索引、复制、分片、丰富的查询语法,特别灵活的数据模型。与此同时还不牺牲速度。 MongoDB 是一款强大、灵活,且易于扩展的通用型数据库。能扩展出非常多的功能,如二级索引、范围查询、排序、聚合,以及地理空间索引。...
View ArticleRedis3.2.2--配置文件参数解释
Redis的配置文件 redis的默认配置文件在redis目录下,有个叫 redis.conf 的文件。 用配置文件启动redis命令为: src/redis-server redis.conf Redis支持的参数: 1k => 1000 bytes 1kb => 1024 bytes 1m => 1000000 bytes 1mb => 1024*1024 bytes...
View Article