ACTIVITIES我们

创新创业平台

感悟与反思┃“数据清洗工作”的总结与反思——席义博

 编 号:01        姓 名:席义博

年 级:2017    专 业:图书情报

学 历:硕士研究生

大数据时代,数据就是财富。很有幸在加入团队之前就参与到“数据清洗”的工作之中,与身边志同道合的朋友们一起学习数据处理的技术与思维,共同成长。经历了学基础、跑流程、读错误、修代码、立标准、验质量等等环节,着实和大家一起学到了不少“干货”。

记得是2016年年中,团队要开展新一轮的数据积累工作,需要对海量在线数据进行筛选并整理,为之后构建二级专业数据库做储备。于老师安排我和皓旻、江毅、熙勐对大家进行任务培训,当时的C205众创空间和C204会议室坐满了学弟学妹,从12级到16级,大伙儿都积极加入了进来,当时真是打心里开心。

起初,我们四个互相熟悉流程的时候,就已经出现了很多问题,主要围绕在编程语言Python的环境配置、软件包安装、权限设置和操作步骤上。将近四十号人,大家的笔记本品牌各异、从Win7到Win10有近5种操作系统,此外还有家庭版与专业版之分等,这些对于Python环境配置与包的安装都是非常耗时耗力的障碍。运行环境如果不统一,会对后期发现及排除Bug造成很大的干扰。因此,首要任务就是“重装系统”,对Win Vista、Win8、Win8.1的笔记本重新安装Win7或者Win10的系统,为此做了3个系统盘同时给大家安装。第一步走得并不容易,而这才是准备工作的开始。

操作系统的问题解决后,到了环境配置阶段。我先前是没有任何安装Python经验的,我认为的经验是,你对这个软件的所有安装选项了如指掌,任何一个步骤的选择,其产生的影响你都非常清楚,这才叫“懂”。我们当时恰恰都是摸着石头过河,安装过程中的很多选项,我们也不清楚会产生什么影响,于是就傻瓜式默认“下一步”,这种愚蠢的处理方式现在也不少见吧。但就因此,导致了随后Python包的安装出现了问题。原因是,Python在安装时,第一个选项是“为所有用户安装”或“只是我”,这决定了Python的安装目录,默认而我们是需要其安装在C盘的根目录下的……这个错误从出现到找见根源,同样耗费了大量的时间。

系统与环境的问题勉强解决了,Python包也通过在线下载或离线U盘安装的方式,大家一个帮一个,依次安装完毕,接下来就是重头戏“跑流程”。用当年为办工作室买的小投影仪给大家演示,功率小,亮度低,把所有窗帘都拉上才勉强看清,不过这丝毫不影响大家学习的劲头,高高低低都围坐在前排,整个流程演示都进行得很顺利。

到了每个人自己运行代码的阶段,那真是状况百出,新老问题天天有,自己的基础不牢靠,但至少报错信息是能看懂的,实在不行就搜索报错信息,可以说99%的问题在网上都有相似的解读,考验的就是耐心与钻研劲儿,说简单点就叫“照猫画虎”的能力。当时告诉大家把每遇到一次报错,都做一系列整理工作,包括问题描述、截图、出错的源文件处理等等,之后还涉及到类似“断点续传”的操作,如果每次出错都重新来过,数据清洗的效率将大大降低。这么过了几天,对大家的报错情况基本都有数儿了,我虽说不清楚为什么,但至少能清楚地描述出“当如何如何时”就会有“报错”,也许是我太过业余,大量的Bug反馈最终都石沉大海,没有得到任何解决或是优化,怎么办?只有靠自己了,毕竟信息时代,知识鸿沟早已不存在。编程语言是讲给计算机听的语言,既然是语言,就具有互通性,只要你能够把“逻辑”想清楚,用最直接的语言描述出来,那么“搜索引擎”就能告诉你答案!

于是……报错怎么办?跳过!怎么跳过?跳过过之后,如何告诉计算机处理下一项?添加计数!错误文件怎么处理?加代码移动到其他文件夹!同时生成.txt记录信息!并且错误计数+1!自动重命名添加上级文件夹的字段!规范每一个清洗步骤的文件及文件夹名称!此外还有,还做了去除生成check.txt的步骤、修改计时器、ratio变量名改为ratios,自动判断Y/N等等等等细节调整……





虽然数据清洗过程中报错不断,但大家的热情不减,那段时间每天晚上和大家一起处理数据,听大家反馈的问题,然后一起讨论解决,是我每天最期待的事儿,也是我度过最开心的时光,在实践与交流中,我相信大家一定都有各自的收获!












部分小伙伴们的合影


IMG_114909841408






这次数据清洗的任务,其实带动了很大一批同学对于编程的兴趣与冲动,这是个很好的开端,是凝聚大家庭之力,取长补短,不抛弃!不放弃!不嫌弃!一起做事,共同成长的开端。众创空间,更像是一面逆风高举旗帜,大家一起朝着一个目标努力,每个人都是巨浪中的一滴水,都在贡献着自己力量!如今,众创空间也迎来了新鲜血液,整个运行模式也发生了很大的变化,每每路过C205,都很想进去再看一眼,那里有我们太多太多的回忆与成长。

大数据时代的到来,为我们所有人都带来了很多机会,希望我们这个大家庭能够继续把“不抛弃、不放弃、不嫌弃!”的精神传承下去。切记:恃才傲物是蠢才,虚怀若谷才是大智慧。






关注微信

获取电子资讯

版权所有©山西医科大学 2022

| 忘记密码
注册说明

您好!感谢您关注清华x-lab创意创新创业教育平台。

在填写之前,请确认您项目的核心团队至少有一名成员是清华的在校生、校友及教师