乐鱼体育买球

乐鱼体育投注靠谱:首页 > 产品中心
产品中心

|

发布时间:2022-05-15 19:24:30 来源:乐鱼体育买球 作者:乐鱼体育下注app

乐鱼体育下注app

  2017年1月10日,厦门大学信息科学与技术学院助理教授林子雨在CIO时代APP微讲座栏目作了题为《关于高校大数据教学若干关键问题的探讨》的主题分享,从大数据实验平台的搭建方法、云计算与大数据课程知识交叉问题解决方法以及大数据教学资源建设三个方面,对高校大数据教学关键问题进行了探讨。

  在高校大数据教学过程中,实践是很重要的环节,因此,很多高校在开设大数据课程时,不仅要选择好的教材,同时也要选择好的大数据实验平台。总体而言,当前国内有以下几种大数据实验平台方案:

  第一,多台终端机采用云桌面方式连接到中心服务器。这种模式在一部分高校已得到广泛使用。通常而言,中心服务器采用高密度服务器,采用虚拟化技术得到很多虚拟化资源,所有的终端机都可以连接到中心服务器,共享这些虚拟化资源,因此,终端机仅起到云桌面的作用,数据处理运行都是在中心服务器上进行的,因此,这种模式对终端机的配置要求较低。这种模式在实际的高校部署中,又会有两种不同的方案:第一种方案是在学校本地机房放置中心服务器,各个终端机直接连接到本地服务器。另外一种方案是中心服务器不是放在高校实验室的内部机房中,而是放置在阿里云等公有云平台上,或者放在大数据实验平台供应商自己的数据中心里,高校可以通过浏览器访问云端的大数据实验环境。

  第二,用多台物理机器构建分布式环境。在这种模式中,每台物理机器都构成一个分布式计算节点,多个节点构成分布式的集群环境。在这种模式下,高校的通常做法是将学生进行分组,比如5个学生一组,为5个学生分配5台物理机器,由学生完成大数据集群环境搭建,或者,机房管理员已经为这5台机器统一安装了大数据集群环境,学生可以直接在这5台物理机上进行相关大数据实验。

  既然已经有了统一的大数据实验机房,为什么还需要单机方式呢?主要有三个方面的原因:

  (1)有些学校没有建设统一的大数据实验机房,需要教师和学生自己在电脑上安装大数据实验平台;

  (2)学校有统一的机房,但是,上机时间有限,学生需要在宿舍或者实验室,进行大量的课后上机实践,需要在自己电脑上安装大数据实验平台,随时实践

  (3)学校的统一机房本身就采用每台机器独立安装的方式。很多机房都具有统一的管理平台,可以把大数据实验平台制作成镜像,然后自动快速把镜像部署到机房的每台电脑上。

  如果采用这种单机构建模式,通常对整个实验室内部单机配置要求较高。一般而言,学生或老师的机器大多数为Windows系统,单机安装方式的具体方法是,在Windows系统基础上安装虚拟机软件,比如VMWare或者VirtualBox,在虚拟机软件上安装Linux操作系统,再在Linux操作系统上安装Hadoop等大数据相关软件。这种架构对底层的硬件配置要求是比较高的,因为要同时运行Windows系统和Linux系统,此时对底层资源的消耗比较大,尤其是对内存要求较高。一般而言,如果采用虚拟机方式(不是双操作系统方式),则单机方式构建大数据实验平台时,单机配置至少需要8GB的内存,否则系统运行会很缓慢。单机环境如何快速部署到其他机器中呢?老师首先在自己的电脑上完成大数据实验环境的构建,再将其导出做成“镜像”,存放到云盘,供学生下载,学生在自己本地电脑的虚拟机软件中直接导入镜像,就可以生成大数据实验环境,直接使用,避免了繁琐的大数据实验环境搭建过程。

  在实验室内部,完成一些相关科研数据的处理、分析,或学生进行一些大数据教学案例分析,学生或老师仅用自己的电脑构建虚拟机方式是无法高效处理分布式大数据实验的,因此,需要利用实验室内部三到五台机器搭建起真正的物理分布环境,使庞大的数据进行分布式物理计算,这也是学生或老师采用的多机分布式物理环境。

  当前,大数据、云计算这两门课程很多高校都在开设,其中可能会遇到一些尴尬问题,如云计算和大数据两门课程知识点重合度高,没有合理地安排内容,尤其是Hadoop等大数据只是在两门课程中可能均有介绍,使得两门课程在大数据知识方面高度重合,于是两门课程老师要花费大量时间多次讲解同一项技术。导致学生要重复学习同一种知识,也导致了老师相互之间的尴尬等问题。出现这个问题的原因是教材选择出现了问题,目前遇到问题的云计算课程在选择教材时,云计算教材中包含了大量的大数据知识,包括Hadoop生态系统的各个组件(HDFS、HBase、MapReduce、Pig、Hive、Zookeeper等),都有详细介绍。而老师上课通常都是围绕教材讲课的,教材写了什么内容,基本上就要讲什么内容。云计算教材中包含了大量关于Hadoop等大数据知识,任课教师就只能按照教材讲大量属于大数据的内容。那么,为什么会导致这一现象的出现呢?这就要从云计算和大数据的渊源说起。

  云计算技术诞生于2006年,云计算最初主要包含了两类含义:一类是以谷歌的分布式文件系统GFS和分布式并行编程模型MapReduce为代表的大规模分布式并行计算技术;另一类是以亚马逊的虚拟机和对象存储为代表的“按需租用”的商业模式,也就是说,通过网络以服务的方式为用户提供非常廉价的IT资源这样一种商业模式,就像我们今天的百度云盘、阿里云等,都属于这种商业模式。所以,较早期的一些云计算教材,就会包含上述两类内容,因此,会包含大量介绍Hadoop等大数据技术的知识。但是,到了2009年2010年附近的时候,随着大数据概念的提出,云计算中的分布式计算技术开始更多地被列入大数据技术,所以,现在人们提到云计算时,更多指的是底层基础IT资源的整合优化以及以服务的方式提供IT资源的商业模式(如IaaS、PaaS、SaaS),而很少会去谈及Hadoop等已经被单列为大数据的技术。

  正是因为上述原因,在2010年附近出版的一些云计算教材,通常都会包含虚拟化、数据中心、分布式存储GFS和分布式处理MapReduce等内容,这类教材我们称为“云计算大数据复合型教材”,也就是说,这类复合型教材,虽然教材名称是“云计算”,但是,包含了大量讲解Hadoop等大数据知识的章节,而不是简略介绍Hadoop。因为,2010年之前,大数据和云计算的技术都是混在一起的,Hadoop等大数据技术,之前都叫云计算,那时还不叫大数据。

  2010年到2014年之间,云计算已经大规模普及,但是,大数据还没有大规模普及,因此,很多高校都没有开设大数据课程,都只开设了云计算课程,这样,在10年到14年之间,使用复合型云计算教材上课,当然是不会遇到问题的。但是,到了2015年附近,越来越多高校开始开设大数据课程,大数据课程讲解的是Hadoop等大数据技术。这个时候,对于那些选用复合型云计算教材的高校而言,问题马上暴露出来,这些高校突然发现,由于前期选择了复合型云计算教材,导致大数据课程和云计算两门课,内容重合度很高,两门课程老师相互之间也很尴尬,到底如何协调好彼此的上课内容,显得很棘手。

  如何解决这个两门课程知识点过高重合的问题呢?较好的方法是,在现在的云计算课程中,不能继续使用复合型云计算教材(里面包含过多属于大数据技术的内容),也就是说,到了2015年以后,如果一个高校同时开设云计算和大数据课程,在云计算教材的选择方面,最好把复合型云计算教材更换成“单一型云计算教材”。所谓的单一型云计算教材是指,云计算教材中,不能把Hadoop等属于大数据课程的内容作为核心内容,只要用一个章节简单概要介绍Hadoop等大数据技术即可,不能用好几个章节进行大量介绍。也就是说,在“单一型云计算教材”中,Hadoop等大数据技术只是教材的“次要内容”,只是为了考虑到云计算和大数据的紧密关系和历史渊源,才加以介绍,在实际授课时,用2个课时做简单讲解即可。采用“单一型云计算教材”以后,就彻底解决了云计算和大数据课程知识点高度重合的问题,云计算课程只会有2个课时的大数据技术简单介绍,详细的大数据技术,都需要学生在大数据课程上通过32个学时来学习。

  采用“单一型云计算教材”以后,云计算和大数据两门课程的知识重点就有了明显的区分,不会重合:

  (1)云计算的教学重点:云计算概念、云计算体系架构、数据中心、虚拟化技术(平台虚拟化、资源虚拟化、虚拟机的动态迁移、云操作系统)、SOA架构及开发技术、云数据中心设计与测试、云数据中心维护与管理、云安全架构、桌面云、PaaS应用开发平台、开源的云计算管理平台Openstack、Docker容器、大数据存储与管理(最多2个学时,不需要实验,只是知识介绍)。

  (2)大数据的教学重点:系统论述大数据的基本概念、大数据处理架构Hadoop、分布式文件系统HDFS、分布式数据库HBase、NoSQL数据库、云数据库、分布式并行编程模型MapReduce、大数据处理架构Spark、流计算、图计算、数据可视化以及大数据在互联网、生物医学和物流等各个领域的应用。

  优质的大数据教学资源,直接影响到大数据课程的顺利开设和大数据教学水平的发展。由于当前大数据教学正处于推广期,大数据教学资源还比较稀缺。同时,大数据知识体系非常庞杂,包含了数据生命周期内的各种技术,而且大数据知识更新换代非常快,类似Hadoop等大数据技术,刚兴起几年,又有Spark等新兴技术的崛起,这进一步加剧了教师开课的难度。

  为了缓解高校大数据教学资源稀缺的现状,全国高校教育界同仁都在不断努力,建设资源。全国高校大数据教育联盟多次组织召开大数据教学研讨会,组织相关高校教师共同开发教学资源。

  厦门大学数据库实验室致力于打造中国高校大数据课程公共服务平台,建设了目前为止国内高校最完备的大数据课程公共服务体系,已经成为全国高校大数据教学知名品牌。平台以开放共享方式提供免费教学资源,缓解大数据教育资源稀缺的问题,降低大数据的开课门槛。目前,平台建设了11个1工程,包括1本教材、1个教师服务站、1个学生服务站、1个公益项目、1堂巡讲公开课、1个示范班级、1门在线个实验平台。访问厦门大学数据库实验室网站,即可免费访问平台上的所有教学资源。

  随着大数据的全面普及,高校大数据专业建设也会加快推进,优秀大数据人才的培养和优质教学资源的建设,离不开全国高校教育界同仁、以及社会上的教育服务机构的共同努力。最后,祝愿我国高校大数据教学事业不断迈上新的台阶!



上一篇:对嵌入式系统进行版本控制的5个技巧
下一篇:影响世界家电的发明之十:零距离自由嵌入式冰箱