CentOS7.5之MongoDB4.0安装与CRUD基本操作详解大数据

3.2 库和集合的操作

db    查看当前所处的数据库，在mongodb中,库是隐式创建,你可以use 一个不存在的库, 然后在该库下创建collection,即可创建库

db.dropDatabase();    删除database，把当前所用的库给删除了, 即使里面有数据也会删除

db.createCollection(‘collectionName’)，  创建collection，collection也是允许隐式创建的

db.collectionName.insert(document); 在集合(表)中插入具体数据的时候会自动创建

db.collectionName.drop() ,   删除collection

测试隐式创建：往不存在的students表中插入数据

> show dbs 
admin 0.000GB 
config 0.000GB 
local 0.000GB 
> use admin 
 switched to db admin 
> db.students.insert({name:'zhangsan',age:'20'}) 
WriteResult({ "nInserted" : 1 }) 
> show tables 
students

删除当前库里的students表

> db. students. drop()  
true

四 Mongodb基本增删改查

4.1 增加数据

mongodb存储的是文档,文档是json格式的对象,我们向数据库存储数据的时候可以使用insert方法,数据格式要以js对象格式进行存储:

语法：db.collectionName.insert(document);

db.students.insert({name:'zhangsan',age:'20'})   向当前students表里插入数据

我们可以以多种方法对文档进行存储:

4.1.2 增加单篇文档 

语法：db.collectionName.insert({title:”nice  day”});

4.1.3 增加单个文档,并且指定_id

语法：db.collectionName.insert({_id:8,age:78,name:”lisi”});

_id 是我们在插入数据的时候,mongodb自动给文档添加的一个属性,如果我们不需要系统分配_id ,可以在添加数据的时候手动设置,覆盖原有_id ,虽然_id 的类型可以自由指定,但是在同一个集合当中必须唯一,如果插入重复的值,系统会抛出异常.

这个_id 的名称是固定的,它可以是Mongodb支持的任何数据类型,默认是ObjectId,在关系型数据库中,主键通常是数值型的,并且可以设置自增,而Mongodb的主键,原生不支持自增主键.

4.1.4 增加多个文档 

db.students.insert( [{time:'friday',value:'mongodb'},{_id:1,gender:'male',name:'QQ'}])

可以以数组的方式,一次性向集合插入多个数据;  同时应该注意的是,由于mongodb采用的是JavaScript  Shell,所以我们可以根据js特性,将文档作为值赋给变量然后进行操作:

j = {name : 'isi'}; 
t = {name : 'wangwu’}; 
db.students.insert([j,t]);

4.1.5 save和insert的区别

save和insert都可以进行数据的插入和增加,但是也有一些异同:

对于已存在数据{ _id:1,  “name”:”n1″ }，再次进行插入操作时，insert({_id  :  1,  “name”  :”n2″}) 会报主键重复的错误提示 save({  _id:1,  ”  name  “:”n2”}) 会把n1修改为n2。 

相同点：若新增的数据中没有主键时，会增加一条记录。

不同点：主键冲突时:insert 会报错，save会自增_i d 主键插入

4.2 查询操作

4.2.1 find()

无条件的普通查询方式很简单,可以直接使用

db.collectionName.find();一次可以查出指定集合中的所有数据 

for(var i = 1;1<5;i++) { db.students.save({x:i,y:i+1}) }   
db.students.find();

如果出现显示不全的现象,可以使用”it”命令,继续显示下面的数据. 当然,我们还可以按照条件进行查询操作

语法: db.collection.find(查询表达式,查询的列);

例1:  db.students.find({},{gendre:1})

查询所有文档,的gender属性 (_id属性默认总是查出来)

例2:  db.students.find({},{gender:1,  _id:0})

查询所有文档的gender属性,且不查询_id属性

此处的0表示的是false,不查询   

例3: db.students.find({gender:’male’},{name:1,_id:0});

查询所有gender属性值为male的文档中的name属性

4.2.2 findOne()

findOne()和find()函数一样,只是findOne()返回的是查询结果中的第一条数据,或者返回null. 

4.3 删除操作

语法: db.collectionName.remove(查询表达式,  选项);

选项是指 {justOne:true/false},是否只删一行, 默认为false   注意

1: 查询表达式依然是个json对象

2: 查询表达式匹配的行,将被删掉.

3: 如果查询表达式为空对象{},collections中的所有文档将被删掉. 

例1： db.students.remove({sn:’001′});

删除stu表中sn属性值为’001’的文档 

例2：  db.students.remove({gender:’m’},true);

删除stu表中gender属性为m的文档,只删除1行.

4.4 修改操作

语法: db.collection.update(查询表达式,新值,选项); 

*改哪几行? --- 查询表达式 
*改成什么样? -- 新值 或 赋值表达式 
*操作选项 ----- 可选参数 
 upsert:如果要更新的那条记录没有找到，是否插入一条新纪录，默认为false
 multi  :是否更新满足条件的多条的记录,默认为false

multi :是否更新满足条件的多条的记录，false：只更新第一条，true:更新多条，默认为false 

例：db.news.update({name:’QQ’},{name:’MSN’});

是指选中news表中,name值为QQ的文档,并把其文档值改为{name:”MSN”},

结果: 文档中的其他列也不见了,改后只有_id和name列了.即是新文档直接覆盖了旧文档,而不是修改.

4.4.1 修改操作中的关键字

如果是想修改文档的某列,可以用$set关键字 

例：db.collectionName.update(query,{$set:{name:’QQ’}})

修改时的赋值表达式

• $set 修改某列的值
• $unset 删除某个列
• $inc 增长某个列
• $rename 重新命名某列
• $setOnInsert 当upsert为true时,并且发生了insert操作时,可以补充的字段.

$inc实例

按照指定的步长增长某个列;

>  db.students.insert({"uid":"201203","type":"1",size:10}) 
>  db.students.find() 
{  "_id"  :  ObjectId("5003b6135af21ff428dafbe6"),  "uid"  :  "201203",  "type"  :  "1", "size"  :  10  } 
>  db.students.update({"uid"  :  "201203"},{"$inc":{"size"  :  2}}) 
>  db.stdentsu.find() 
{  "_id"  :  ObjectId("5003b6135af21ff428dafbe6"),  "uid"  :  "201203",  "type"  :  "1", "size"  :  12  }

$unset实例 

>db.students.find({_id:3}) 
{"_id"  :  3  ,  "age"  :  18} 
>  db.students.update({_id:3},{$unset:{age:'sss'}}) 
WriteResult({  "nMatched"  :  0,  "nUpserted"  :  0,  "nModified"  :  0  }) 
>  db.students.update({_id:3},{$unset:{age:'sss'}}) 
WriteResult({  "nMatched"  :  1,  "nUpserted"  :  0,  "nModified"  :  1  }) 
>  db.students.find({_id:3}) 
{  "_id"  :  3  }

$rename实例

->db.students.insert({name:'lisi',age:12,sex:'male',height:123,area:'haidian'}); 
->db.students.update({name:'lisi'},{$set:{area:'chaoyang'},$unset:{height:1},$inc:{age:1},$rename:{sex:'gender'}});

4.4.2 Option选项的作用

语法： {upsert:true/false,multi:true/false}

upsert:是指没有匹配的行,则直接插入该行 

例:db.stu.update({name:’wuyong’},{$set:{name:’junshiwuyong’}},{upsert:true});

如果有name=’wuyong’的文档,将被修改,如果没有,将添加此新文档

例:db.news.update({_id:99},{x:123,y:234},{upsert:true});

没有_id=99的文档被修改,因此直接插入该文档

multi: 是指修改多行(即使查询表达式命中多行,默认也只改1行,如果想改多行,可以用此选项) 

例:db.news.update({age:21},{$set:{age:22}},{multi:true});

则把news中所有age=21的文档,都修改

4.5 查询表达式

我们无论在修改删除还是查询的过程中,都需要传入查询表达式对目标数据进行查询,表达式有很多种

1:  最简单的查询表达式 
{filed:value}  ,是指查询field列的值为value的文档 
 
2:  $ne：!= 
{field:{$ne:value}} db.stu.find({age:{$ne:16}}) 作用--查age列的值 不等于16的文档 
 
3:$gt:大于 
$lt:小于 
$gte:大于或等于 
$lte:小于或等于 
 
4:  $in：[] 
查询某列的值在范围内的文档 
db.goods.find({cat_id:{$in:[2,8]}} 
 
5:  $nin：not  in 
查询某列不在范围内的文档 
$nin:[2,3,5] 
 
6:  $exists 
语法:  {field:{$exists:1}} 
作用:  查询出含有field字段的文档 
 
7:用正则表达式查询  以”诺基亚”开头的商品 
例:db.goods.find({goods_name:/诺基亚.*/},{goods_name:1});

五 游标操作

通俗的说,游标不是查询结果,而是查询的返回资源,或者接口，通过这个接口,你可以逐条对数据进行读取；

声明游标:

var  cursor  =  db.collectioName.find(query,projection); 
cursor.hasNext()  //判断游标是否已经取到尽头  
cursor.next()  //取出游标的下1个单元

用while来循环游标 

>  var  mycursor  =  db.bar.find({_id:{$lte:5}}) 
>  while(mycursor.hasNext())  { printjson(mycursor.next());}

游标还有一个迭代函数,允许我们自定义回调函数来逐个处理每个单元. 

cursor.forEach(回调函数); 
>  var  gettitle  =  function(obj)  {print(obj.goods_name)} 
>  var  cursor  =  db.goods.find(); 
>  cursor.forEach(gettitle);

游标在分页中的应用

比如查到10000行,跳过100页,取10行,一般地,我们假设每页N行, 当前是page页,就需要跳过前 (page-1)*N 行, 再取N行.

在mongo中,分页是用skip(), limit()函数来实现的

//查询结果中,跳过前9995行 
var  mycursor  =  db.bar.find().skip(9995); 
 
//查询第901页,每页10条 
则是  var  mytcursor  =  db.bar.find().skip(9000).limit(10);

六 group分组

mongodb支持聚合运算;

在goods表中插入数据 

db.goods.insert([ 
{'_id':3,'cat_id':6,'price':29}, 
{'_id':4,'cat_id':7,'price':30}, 
{'_id':5,'cat_id':6,'price':31}, 
{'_id':6,'cat_id':7,'price':32}, 
{'_id':7,'cat_id':7,'price':28}, 
])

如果我们所处的是mysql数据库,我们可以这样查询每个类下面的商品平均价格 

select  avg(price)  from  goods  group  by  cat_id;

但如果在mongodb下,我们如何查询分组内的平均值呢? 我们需要使用mongodb的聚合运算   https://docs.mongodb.com/manual/aggregation/

db.goods.aggregate([ 
{$match:{}}, 
{$group:{_id:"$cat_id",avg:{$avg:'$price'}}} 
]);

其中,$match表示匹配的条件,$group表示分组的条件,$avg表示求平均值. 当然,指令还有很多,我们还可以使用limit,sort等操作 

db.goods.aggregate([ 
{$match:{}}, 
{$group:{_id:"$cat_id",avg:{$avg:'$price'}}}, 
{$limit:1} 
]); 
 
db.goods.aggregate([ 
{$match:{}}, 
{$sort:{price:-1}} 
]);

七 MapReduce

7.1 MapReduce原理

随着大数据兴起,MapReduce的概念也越来越火,通常的概念是用于大规模数据集(1TB)的并行运算,实际上就是传统关系型数据库的group概念的延伸.

MapReduce之所以能够流行,是因为数据的大,当数据过大的时候,单个服务器无法承载,facebook,微软等等的数据中心都是分布在世界各地的,我们所需        要的数据很可能分布在不同的服务器甚至世界各地.在这时候,我们就无法使用group操作了.

MapReduce通俗的讲,最大的优点就是可以支持分布式的group 

而MapReduce的操作即分为map和reduce两步;

map ---> 映 射 
reduce ---> 减少,规约,回归

7.2 MapReduce统计价格

//按照cat_id  分配  price,把price数据映射到一个数组上 var  map  =  function(){ 
emit(this.cat_id  ,  this.price) 
} 
 
//将映射好的数组进行操作 
var  reduce  =  function(cat_id,number){ return  Array.avg(number) 
} 
 
//将统计的数据映射到res表当中db.goods.mapReduce(map,reduce,{out:'res'})

接下来我们使用mapReduce功能实现地震数据的统计