[译] Hadoop 3 中的磁盘管理大招解密
译者:王辉 校对:胥峰 1、前言 本文深入研究 HDFS 磁盘平衡的新特性,这是 Hadoop3 中加入的一个特性。 HDFS 现在包括(在 CDH 5. 8. 2 和更高版本中发布)用于跨节点移动数据的全面的存储容量管理方法。 在 HDFS 中,DataNode 将数据块分散到本地文件系统目录中,这可以使用 hdfs-site.xml 文件的 dfs.datanode.data.dir...
View ArticleApache 基金会宣布 Apache Ranger 毕业成为顶级项目
2月8日,Apache 软件基金会 宣布 ,Apache Ranger 已经成功地从孵化毕业,成为基金会的一个新的顶级项目。 Apache Ranger 是一个集中式框架,提供操作、监控、管理复杂的数据权限,它提供一个集中的管理机制,管理基于Apache Hadoop 生态圈的所有数据权限。 Apache Ranger 还提供最全面的安全覆盖,本地支持众多 Apache...
View ArticleHadoop Weekly Issue #204
12 February 2017 The content in this week's issue is notable because it includes a number of projects at the periphery of the Hadoop ecosystem (pachyderm, MongoDB, RethinkDB, and Hazelcast). If you're...
View Article数据库――单行函数 数据库 数据库学习 单行函数
数据库——单行函数。1、 单行函数的分类:1)字符函数2)数值函数3)日期函数4)转换函数5)通用函数2、字符函数:主要指参数类型是字符型,不同函数返回值可能是字符型或数值型。3、字符函数的分类:大小写转换函数和字符处理函数4、大小写转换函数:使用upper(小写转换大写)、lower(大写转换小写)、initcap(单词首字母)关键字例子:select empno,ename,deptno...
View ArticleACID补充 数据库 数据库学习 ACID补充
ACID补充。一致性(Consistency):事务开始之前和事务结束之后,数据库的完整性限制未被破坏 。 那么什么是完整性约束呢? 数据库完整性约束主要包括三种: 实体完整性:即主键的作用,同一个表中不可以有多个记录拥有相同识别 域完整性:限制字段类型 参照完整性:外键作用。如两个数据表是有关联的,父数据表中的记录必须存在,子数据表的记录才有存在。
View Articleredis基本结构(1)------字符串键 数据库 数据库学习 redis 基本结构 字符串键
redis基本结构(1)------字符串键。 一:java基本操作:DEL key [key ...] : 删除一个KEYGET key : 获得一个KEY的值 SETEX key seconds value : 设置KEY的VALUE和EXP时间 SETNX key value : 设置KEY的VALUE,前提是KEY之前不存在 SET key value : 设置KEY,VALUE...
View Article数据库学习之Readis 数据库 数据库学习 Readis
数据库学习之Readis。一、简介:在过去的几年中,NoSQL数据库一度成为高并发、海量数据存储解决方案的代名词,与之相应的产品也呈现出雨后春笋般的生机。然而在众多产品中能够脱颖而出的却屈指可数,如Redis、MongoDB、BerkeleyDB和CouchDB等。由于每种产品所拥有的特征不同,因此它们的应用场景也存在着一定的差异,下面仅给出简单的说明:1)....
View Article数据库设计的那些事儿!~(第一篇) 数据库 数据库学习 数据库设计
数据库设计的那些事儿!~(第一篇) 各位客官,大家好!今天让我们来聊一聊数据库设计的那些事儿!~ 数据库已经离不开我们的生活,作为一个后端开发人员,数据库的使用更是必不可少的,让我们来看一看为什么要进行数据库设计? 我用表格来总结一下: 优良的设计糟糕的设计 减少冗余存在大量数据冗余 避免数据维护异常存在数据插入,更新,删除异常 节约存储空间浪费大量存储空间 高效访问访问数据低效...
View Articlehibernate序列化问题 数据库 数据库学习 hibernate 序列化问题
hibernate序列化问题 /* * 将对象转化成java.sql.Blob * 要求 对象是序列化的 */ public java.sql.Blob ObjectToBlob(Object obj) throws IOException{ try { ByteArrayOutputStream out = new ByteArrayOutputStream();...
View Articlejdbc进行简单的增删改查 数据库 数据库学习 jdbc 增删改查
jdbc进行简单的增删改查,对mysql进行操作,这时下面的import就不会报错了:import com.mysql.jdbc.Connection;import com.mysql.jdbc.PreparedStatement; 除此以外,还需要JDBC的包,直接import即可。import java.sql.DriverManager;import...
View Articleredis基本结构(3)------列表(list) 数据库 数据库学习 redis 基本结构
redis基本结构(3)------列表(list)。 1:简介 2:基本操作 LPOP key : 删除并取得LIST头部一个元素 RPOP key : 删除并取得LIST尾部一个元素BLPOP key [key ...] timeout : 删除并取得LIST头部一个元素,如果没有就BLOCKBRPOP key [key ...] timeout :...
View Article全角与半角的转换 数据库 数据库学习 数据库全角 半角切换
全角与半角的转换转换函数select to_single_byte('adf') from dual; --转换为半角adfselect to_multi_byte('adf') from dual; --转换为全角 adf半角与全角的区别全角占两个字节,半角占一个字节,半角全角主要是针对标点符号来说的,全角标点占两个字节,半角占一个字节。
View Articleredis基本结构(2)------散列(hash) 数据库 数据库学习 redis基本结构 散列hash
redis基本结构(2)------散列(hash)。 一:基本操作 HDEL key field : 删除一个HASHFIELD HEXISTS key field : 判断一个HASHFIELD是否存在 HGET key field : 获得一个HASHFIELD的值 HGETALL key : 获得一个HASH所有的FIELDs和VALUEs HINCRBY key field...
View ArticleGaleracluster-入门 数据库 数据函数 Galeracluster Galeracluster入门
Galeracluster-入门。Galera集群为mysql提供一种同步复制解决方案,可以提高MySQL服务的可用性和性能。 所有Galera集群节点是完全相同的并且完全代表集群,允许不受限制的透明的mysql客户端访问,并充当单个分布式MySQL服务器。 它提供:1.透明的客户端连接,因此可以与现有应用高度兼容;2.数据同步安全--...
View Article11g如何添加,替换,移除,迁移OCR? 数据库 数据函数 OCR添加 OCR替换 OCR迁移
11g 如何添加,替换,移除,迁移 OCR ? 如何通过本地文件查看OCR存放位置。[root@node2 oracle]# cat /etc/oracle/ocr.loc#Device/file +FLASH being deleted ocrconfig_loc=+GRIDDG 一: 增加 裸设备上,创建至少280MB的裸设备,权限是640,属主是root:oinstall 共享文件系统 Or...
View Article获取连接数据库字符串的方法 数据库 数据库学习 字符串 字符串获取
获取连接数据库字符串的方法。 1.新建一个后缀名为.udl的文件. 2.在提供选线中选择对应的ole驱动. 3.点击下一步到达连接,输入正确的用户名密码进行测试连接成功后. 4.第一步新建的文件已记事本打开里面就是所需要的连接数据库的字符串.
View Article单链表的逆转 数据库 数据库学习 单链表 单链表逆转
单链表的逆转。 typedef struct LNode *Ptr; struct LNode{ElementType Data;List Next;};Ptr head,new,old,tmp;Ptr Reverse(Ptr head,int K)//链表的逆转伪代码 { cnt=1; new=head->Next; old=new->Next; while(cntNext;...
View Article58到家数据库30条军规解读 数据库 数据库学习 58到家 58到家军规解读
58到家数据库30条军规解读。 军规适用场景:并发量大、数据量大的互联网业务 军规:介绍内容 解读:讲解原因,解读比军规更重要 一、基础规范 (1)必须使用InnoDB存储引擎 解读:支持事务、行级锁、并发性能更好、CPU及内存缓存页优化使得资源利用率更高 (2)必须使用UTF8字符集 解读:万国码,无需转码,无乱码风险,节省空间 (3)数据表、数据字段必须加入中文注释...
View ArticleSpark on YARN配置日志Web UI
Spark部署在YARN之后,从Standalone模式下的Spark Web UI直接无法看到执行过的application日志,不利于性能分析。得益于实验室师弟的帮忙,本文记录如何配置history UI。 修改spark-defaults.conf 修改$SPARK_HOME/conf/spark-default.conf spark.eventLog.enabled true...
View Article#情人节#“会玩”的程序员:爱代码爱机车也爱...
欢迎点击阅读MongoDB的技术文章和相关专题: 深度解读Facebook刚开源的beringei时序数据库 全球最热门的NoSQL系统――MongoDB技术实践与探索 当物流行业遇见MongoDB 专题《阿里云技术专家带你探寻MongoDB技术内幕》相关阅读: MongoDB复制集原理 MongoDB Sharded cluster架构原理 MongoDB请求处理流程...
View Article