如何把大文件的CSV文件写入MYSQL数据库?
#!/usr/bin/env python
目前累计服务客户千余家,积累了丰富的产品开发及服务经验。以网站设计水平和技术实力,树立企业形象,为客户提供成都做网站、成都网站制作、网站策划、网页设计、网络营销、VI设计、网站改版、漏洞修补等服务。创新互联始终以务实、诚信为根本,不断创新和提高建站品质,通过对领先技术的掌握、对创意设计的研究、对客户形象的视觉传递、对应用系统的结合,为客户提供更好的一站式互联网解决方案,携手广大客户,共同发展进步。
# coding: utf-8
#
# filename: csv2db.py
import DBUtils.PooledDB
import MySQLdb
def parser(ln):
"""your business csv file define"""
return ln.split(",")
def csvpage(csvfile, pagesize=256):
import codecs
with codecs.open(csvfile, 'r', 'utf-8') as handle:
buff = []
for ln in handle:
data = parser(ln)
if data:
buff.append(data)
if len(buff) = 256:
todo, buff = buff, []
yield todo
def store(sql, datas):
conn = conn_pool.connection()
curr = conn.cursor()
curr.execute(sql, datas)
conn.commit()
curr.close()
conn.close()
if __name__ == "__main__":
config = loadconfig("dbi.ini")
conn_pool = DBUtils.PooledDB.PooledDB(MySQLdb, 2, 5, **config)
insert_sql = """insert into table
(field_id, field_a, field_b)
values (%s, %s, %s)"""
for page in csvpage("data.csv"):
store(insert_sql, page)
如何把取得的CSV数据,存入到MySQL数据库中
CSV
格式导入到MYSQL中。
执行语句:
load
data
infile
'你的CSV文件路径'
into
table
你的表
fields
terminated
by
','
lines
terminated
by
'\n';
实例:
库:pc2phone
表:cms_rate
文件路径:C:/A-Z.csv
一:Xls转化(另存)为
.csv格式(A-Z.csv)。存放到C盘根目录下
二:MySQL
Command
Line
Client执行操作。
1:
mysql
use
pc2phone;
Database
Changed
2:
mysql
load
data
infile
'C:/A-Z.csv'
into
table
cms_rate
fields
terminated
by
','
lines
terminated
by
'\n';
如果编码正确,导入成功!
如果出现下边情况,则说明编码格式错误。需要对C:/A-Z.csv文件的编码进行转换。
ERROR
1366
hy000:Incorrect
string
value:
'\xB9\xFA\xBC\xCA\xB3\xA4...'
for
column
'rate_type'
at
row
1
如何把csv文件导入mysql
mysql导入csv文件,用到的工具phpmyadmin,步骤如下:
登录phpmyadmin(以本地localhost/phpmyadmin为示例),输入数据库账号和密码进行登录。
2.登录以后选择具体的数据库,以test为示例导入csv文件,选中test数据库,选择导入,然后选择格式为csv,其它选项默认,选择好文件点击执行。
注意事项:mysql导出sql文件兼容性比较好。
分享标题:csv怎么写mysql Csv是什么格式
当前地址:http://scgulin.cn/article/hgihjd.html