神刀安全网

使用 Couchdb-python 操作 CouchDB

简介

Couchdb-python 是目前最常用的操作 CouchDB 的第三方 Python 库,其提供了几乎所有 CouchDB RESTful 接口的功能,主要包括三个模块:

  • Client 模块:提供与 CouchDB server 的交互,对数据库的基本操作如增删改查,操作 temporary view 等功能包括在该模块中
  • View 模块:为用户提供操作 CouchDB 中预定义视图的接口
  • Mapping 模块:将 Python 对象与 CouchDB 的 JSON 文档映射在一起,在进行面向对象编程时十分有用

本文将重点介绍前两个模块中的重要方法的使用。

Couchdb-python 下载地址

安装方法同普通的第三方 Python 库,安装后只需使用 import couchdb 语句即可导入全部 couchdb-python 中的所有模块。

回页首

Client.server 中提供的方法

该模块提供了一系列获取 CouchDB server 信息的方法,通过这些方法用户可以获取关于 server 的各种状态信息。但在使用这些方法之前,首先要获取 server 实体,方法如下:

server = couchdb.Server('http://yourhost:5984/')

CouchDB 默认使用 5984 端口,我们可根据实际情况填入不同参数,如需获取 admin 账户权限,可使用带有用户名密码的 host 地址:

server=couchdb.Server('http://couchdb:passw0rd@10.120.138.211:5984/')

通过以上两种方法获取到 server 实体后,即可使用其他方法获得 server 相关信息。

表格 1 中描述了 server 中提供的常用方法:

表 1.server 中提供的方法

方法名 用途 参数 样例
create(name) 创建一个名为 name 的数据库 name-数据库名 db = server.create(‘test’)
server[name] 获取名为 name 的现存数据库 name-数据库名 db= server[‘test]
delete(name) 删除名为 name 的数据库 name-数据库名 server.delete(‘test’)
version() 获取 CouchDB server 版本号 None myversion=server.version()
tasks() 获取正在运行的任务状态,如数据压缩、数据库复制等 None taskJson=server.tasks()
stats(name) 返回 server 的相关统计数据 Name-统计数据名, 主要有
couchdb 和 httpd 两种
None 将返回所有
Couchdb 下的统计参数有 7 种:
auth_cache_hits
auth_cache_misses
database_reads
database_writes
open_databases
open_os_files
request_time
httpd 下的统计参数有 5 种:
bulk_requests
clients_requesting_changes
requests
temporary_view_reads
view_reads
statsJson=server.stats(‘couchdb/open_os_files’)
statsJson=server.stats(‘httpd/ view_reads’)
Replicate(source,target) 从源数据库复制数据到目标数据库,源数据库和目的数据必须已经存在 Source-源数据库地址
Target-目的数据库地址
server.replicate("http://localhost:5984/testdb", "http://coucdb-remote:5984/recipes")

通过表格中所列的 db=server[name] 或 db=create(name)获取数据库实体 db 后,即可使用其他方法对数据库中的各种数据进行操作, 这里我们创建一个名为”test”的数据库。

回页首

使用 update(documents) 批量插入和更新数据

尽管我们可以通过创建一个 dict 类型的数据并使用 db.save(dict) 方法将一条记录插入数据库,但实际的项目中使用 update(documents) 方法可以更加高效地插入、更新一条或多条数据,因为 update(documents) 方法将多条记录的数据包裹在一个 request 请求中一次性地发送给 CouchDB server。

update(documents) 的参数及返回值说明如下:

参数:documents–包含一组 dict 对象的数组,dict 对象即为要插入或更新的数据。

返回值:三元组列表 (success, docid, rev_or_exc)–列表元素依次对应 documents 中的元素,success 为布尔型,表示是否更新成功,docid 表示对应的文档“_id”,rev_or_exc 表示新纪录的版本号“_rev”或更新失败的异常信息。

这里需要明确一个概念,CouchDB 中“_id”字段用来唯一地标识一条记录,“_rev”字段用来表示一条记录的更新版本号。任何的数据修改操作(除了 delete)都将在原数据的基础上 append 一条新数据,并递增原数据的“_rev”字段。也就是说,CouchDB 中不存在数据覆盖,旧数据仍然保存在数据库中,并可通过之前的“_rev”值找到,这也是 CouchDB 本身的一个特性。如图 1 所示:

图 1. 未经任何修改的一条新记录

使用 Couchdb-python 操作 CouchDB

我们在 test 数据库中建立了一条记录,除“_id”和”_rev”外,此记录还有 age,company,hometown 和 name 字段。此时该记录未经任何修改,其“_rev”字段的首位为 1。将其 hometwon 字段修改后, 此时“_rev”字段的首位递增为 2,但之前“_rev”字段首位为 1 的记录仍可通过点击 futon 中记录左下角的“previous version”按钮找到,如图 2 所示:

图 2. 记录更新后“_rev”字段递增

使用 Couchdb-python 操作 CouchDB

基于 CouchDB 的这种特性,当我们想要通过 update(documents) 批量插入数据时,只需将要插入的数据 dict 加入 documents 数组,如若未指定“_rev”和“_id”字段,系统将自动产生;当需要批量更新数据时,不论更新哪个字段,除赋予该字段新值外,都必须完整地在 dict 中加入该记录所有其他字段(包括“_rev”和“_id”),否则记录被更新后将丢失未列出的字段。至于如何一次性地将包含“_rev”和“_id”字段的整条记录取出为一个 dict, 将在介绍 view 时提到。插入和更新的示例代码如下:

插入三条记录:

docs = [  dict(name='Mary',age='20',hometown='Shenzhen',company='NEC' ),  dict(name='Leo',age='45',hometown='Wuhan',company='MS' ),  dict(name='Kata',age='22',hometown='Chengdu',company='IBM' )  ] resultList=db.update(docs) updateNum=0 for item in resultList:  if(item[0]):  updateNum+=1  else:  log.info('%s db[%s]' %(item[2],item[1])) log.info('%s update successfully/n' %updateNum)

循环遍历 update() 的返回值 list 是为了记录日志,明确地知道是否数据全部插入成功,如若失败,是什么原因导致了哪些记录插入失败。

如图 3,通过 futon 可以看到,三条新纪录产生。

图 3. 插入 3 条记录成功,“_rev”值首位均为 1

使用 Couchdb-python 操作 CouchDB

更新上面三条记录的 company 为“IBM China”,获取三条记录的完整字段,存入一个列表 docs,之后调用 update 方法即可。

代码如下:

docs = [dict( _id='bd50bad62946f07e202112a04b00d85e', _rev='1-df98f39480c1bfc022130732f8a3469c' name='Mary',age='20',hometown='Shenzhen',company='IBM China' ),  dict( _id='bd50bad62946f07e202112a04b00df17', _rev='1-aa008ff2e24dc68a4b696c46fcd08540', name='Leo',age='45',hometown='Wuhan',company='IBM China' ),  dict( _id='bd50bad62946f07e202112a04b00eeaa', _rev='1-80b875494e4672b6a8f623ef4ab7ffe8, name='Kata',age='22',hometown='Chengdu',company='IBM China' )  ] resultList=db.update(docs) updateNum=0 for item in resultList:  if(item[0]):  updateNum+=1  else:  log.info('%s db[%s]' %(item[2],item[1])) log.info('%s update successfully/n' %updateNum)

如图 4,可以看到更新成功,且更新后的“_rev”值首位已经递增为 2

图 4. 更新 3 条记录成功,“_rev”值首位递增为 2

使用 Couchdb-python 操作 CouchDB

在实际开发过程中,如若需要批量插入数据,只需将每条数据拼成 Python 的 dict 格式,然后将所有 dict 放进列表并调用一次 update 方法即可;如若要更新数据,需要首先从数据库中获取带有完整字段的记录,CouchDB 提供了一种功能强大的视图功能,借助视图就可以将需要的记录完整的取出,下面我们介绍视图相关的方法。

回页首

使用 query() 和 view() 查询视图

CouchDB 中的 view 使得用户可以灵活快速地查询数据,实现类似 SQL 中 select 的功能,同时 view 也是 CouchDB 中实现数据 index 的一个过程,通过 JavaScript 语言编写的的 map function 来实现。view 分为 temporary view 和 predefined view 两种。

temporary view

由于 temporary view 所定义的 map function 和数据的 index 文件并没有真正保存在数据库中,用户可在程序中即写即用。因此它常用来快速地验证 map function 的功能。但正因为如此,每次调用 temporary view 都将对数据临时建立一次 index,在验证数据量比较大的数据库时,temporary view 的查询时间将会很慢。

test 数据库中现在有 4 条记录,其中有两条记录的 hometown 字段为“Shenzhen”,我们可以在 Python 中编写如下的 map function 来构建一个简单的 temporary view。尽管是在 Python 中,但 map function 的部分仍然需要使用 JavaScript 的语法:

map_fun ='''function(doc){  if(doc.hometown=="Shenzhen"){  emit(doc.age, doc);  }   }'''

Map function 以 doc 作为唯一的参数,代表数据库中的一条记录。函数将查看记录中的 hometown 字段是否为“Shenzhen”,如果是,将调用内建的 emit(arg1,arg2) 方法。emit() 函数的两个参数中,第一个为 key,也即 index,可以是单一字段,也可以是多个字段组成的数组,这里我们以 age 字段作为 key;第二个为 value,即将要 emit 出的结果,如果设为 doc,将 emit 整条记录;如果设为 doc 的某个字段,如 doc.name, 将只 emit 该字段。这里我们将 emit 出整条记录 doc。

Couchdb-python 中用来执行 temporary view 的方法是 query(), 其参数如下:

query(map_fun, reduce_fun=None, language=’javascript’, wrapper=None, **options)

map_fun :map 函数名

reduce_fun:reduce 函数名 (可选)

language :函数语言,默认为 JavaScript

wrapper : 一个可选的参数,用来包裹查询结果,默认为空

options : 可选的查询参数,如 key=’yourkey’,descending=True

返回类型:List

此时就可以使用 query() 方法来获取 temporary view 的结果了

for row in db.query(map_fun,descending=True):  print row.key  print row.value print row

这里我们遍历 temporary view 的结果并依次打印出 key,value 和整条记录。options 参数使用 descending =True 将结果进行降序排序。

打印结果如下:

点击查看代码清单

关闭 [x]

25 {u'name': u'Johnson', u'hometown': u'Shenzhen', u'age': u'25', u'_id': u'bd50bad62946f07e202112a04b00bb52', u'company': u'IBM', u'_rev': u'5-6b8e641ab94b58c7782461f2d657de3d'} <Row id=u'bd50bad62946f07e202112a04b00bb52', key=u'25', value={u'name': u'Johnson', u'hometown': u'Shenzhen', u'age': u'25', u'_id': u'bd50bad62946f07e202112a04b00bb52', u'company': u'IBM', u'_rev': u'5-6b8e641ab94b58c7782461f2d657de3d'}> 20 {u'name': u'Mary', u'hometown': u'Shenzhen', u'age': u'20', u'_id': u'bd50bad62946f07e202112a04b00d85e', u'company': u'IBM China', u'_rev': u'2-6f8727ba21418735f944663667b2421c'} <Row id=u'bd50bad62946f07e202112a04b00d85e', key=u'20', value={u'name': u'Mary', u'hometown': u'Shenzhen', u'age': u'20', u'_id': u'bd50bad62946f07e202112a04b00d85e', u'company': u'IBM China', u'_rev': u'2-6f8727ba21418735f944663667b2421c'}>

Predefined view

Predefined view 需要用户先在数据库中建立对应的 design doc,map function 作为 design doc 的一部分写在 design doc 中。design doc 的结构如下:

design_doc = {'_id': '_design/yourDisgnName,  'views': { 'yourViewName1': { 'map': 'function(doc){emit(doc.age,doc);'  }, 'yourViewName2': { 'map': 'function(doc){emit(doc.hometown,doc);'  } ...   }  }

每个 design doc 必须包括‘_id’和‘view’字段,且‘_id’字段的值必须为‘_design/yourDesignName’的格式,‘view’字段中可定义多个 map function, 每个 map function 拥有自己的名字,map function 的具体定义写在 map 字段的值中。这里我们定义了两个 map function, 分别在 age 和 hometown 字段建立了 index,emit 出所有的记录。之后只需使用 db.save(design_doc)方法即可将写好的 design doc 保存在数据库中。如图 5 所示。

图 5.design document 样例

使用 Couchdb-python 操作 CouchDB

Couchdb-python 中用来执行 predefined view 的方法是 view(),

其参数如下:

view(name, wrapper=None, **options)

map_fun – design_docid/viewname

wrapper – 一个可选的参数,用来包裹查询结果,默认为空

options – 可选的查询参数,如 key=’yourkey’,descending=True 等

返回类型:List

使用 view() 来查询 hometown 为”Shenzhen”和”Wuhan”的记录:

results=db.view('yourDisgnName/yourViewName2',keys=['Shenzhen','Wuhan']) for row in results:  dic=row.value  print dic

这里的 options 参数我们使用了 keys=[key1,key2,…],在 CouchDB HTTP API 中列举了所有其他可选的查询参数,读者可灵活选择。

回页首

使用 changes() 监听数据库更新

changes() 方法即是对 CouchDB API 中_changes 的封装,它提供了一种监听数据库中数据变更的操作,并以时间顺序返回变更信息列表,可以用于构建类似消息通知和推送的服务。其常用方法参数列表如下:

  • doc_ids (array) – 记录的 ID 列表,用于监听指定记录的改变。
  • conflicts (boolean) –在返回值中包含冲突信息,默认值为 false。
  • descending (boolean) – 以时间降序顺序返回数据变更结果,默认为 false。
  • feed (string) –默认为 normal,这里我们设置为 continuous。
  • include_docs (boolean) –在返回结果中包含每条记录的内容,默认为 false。
  • limit (number) – 指定返回结果的数量。
  • view (string) – 允许使用视图作为搜索条件。
ch = db.changes(feed='continuous', include_docs=True)  counter=0 for each in ch: counter+=1 if (counter > 20): print each T=datetime.datetime.now print T counter=0

除非人为终止程序的运行,否则 feed=’continuous’将一直保持一个与 CouchDB 的连接(CouchDB 的并发机制可以很容易地在不影响效率的前提下支持这种长连接),只要有数据更新(包括删除)都将返回给 ch 列表,include_docs=True 将返回已更新的数据本身。Counter 计数器的作用是,在数据库中的更新操作大于 20 时返回被更新的记录。

回页首

总结:

通过本文的介绍相信读者可以在实际的开发工作中快速地编写 Python 脚本操作 CouchDB,希望文中提到的概念和示例代码对读者的开发工作提供一定的帮助。

原文  http://www.ibm.com/developerworks/cn/opensource/os-cn-couchdb-python/index.html?ca=drs-

转载本站任何文章请注明:转载至神刀安全网,谢谢神刀安全网 » 使用 Couchdb-python 操作 CouchDB

分享到:更多 ()

评论 抢沙发

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址
分享按钮