我的编程空间,编程开发者的网络收藏夹
学习永远不晚

来说说,什么才是真正的大数据分析

短信预约 -IT技能 免费直播动态提醒
省份

北京

  • 北京
  • 上海
  • 天津
  • 重庆
  • 河北
  • 山东
  • 辽宁
  • 黑龙江
  • 吉林
  • 甘肃
  • 青海
  • 河南
  • 江苏
  • 湖北
  • 湖南
  • 江西
  • 浙江
  • 广东
  • 云南
  • 福建
  • 海南
  • 山西
  • 四川
  • 陕西
  • 贵州
  • 安徽
  • 广西
  • 内蒙
  • 西藏
  • 新疆
  • 宁夏
  • 兵团
手机号立即预约

请填写图片验证码后获取短信验证码

看不清楚,换张图片

免费获取短信验证码

来说说,什么才是真正的大数据分析

01普通人理解的“大数据”

普通人理解的大数据可谓千奇百怪,比如:

1、一个excel文件 200M,多大的数据呀!

2、我国人口14亿,这个数据好大呀!

3、卧槽,我刚看了车,就有4S店推广电话,肯定收集了我的大数据

……

这些千奇百怪的理解,都是来自对“数据”本身不够了解导致的。想整明白“大数据”真正的含义,得从数据是从哪里来的讲起。

02先理解“小数据”,再谈“大数据”

最原始的数据采集方式就是:问卷。由专门的调查人员,借助一张张调查问卷,通过现场询问、测量等方式获得数据。这种方法已经沿用了400多年,经典的统计学、管理学理论都是建立在此之上的(如下图)。

小数据有没用?有用!非常有用!

能采集到某个地区的数据,代表着政府对这个地区有统治力。

能采集到越多的数据,中央就能掌握地方情况,从而加强管理。

数据是如此重要,以至于历史上很长一段时间,统计任务归属于政府、军队、情报机关。我国的第一家调查公司还是在90年代初,在宝洁强烈要求下成立的。

但是,调研做法有三个明显的问题:

1、非常耗费人力。访问员、督导、审核、录入、数据处理……都是人

2、非常耗费时间。设计问卷、填写、回收、都是时间

3、准确度低。现场测量的数据会相对准,但口头问回来的大部分都不准

这些问题,导致了问卷时代的数据采集,只能有抽样式的,不能是全量采集。也因此衍生出了专门的抽样理论和方法。但无论数据方法怎么改进,在业务上,抽样,始终是一个难以逾越的梗阻。决策者总会觉得:

1、是不是样本量太少

2、是不是代表性不够

3、没有覆盖的样本是不是真的一致

只要是抽样数据,就一定会被质疑,就总是充满怀疑。这也是最初“小数据”的说法来源,后续所有“大数据”其实都是围绕“小数据”问题而来。

▌数据变大第一步:系统采集

数据从小变大的第一步,从系统采集开始。比如企业扩大规模,要在各地建连锁店,第一步做得就是装POS机,把交易数据采集进来,替代纸质订货单/出货单。此时想了解销售数据,是可以基于POS机收集的数据全量查看的(如下图)。

从抽样数据到全量数据,是一个质的变化。基于全量数据,可以直接管理到各个终端门店,直接基于数据作出经营决策。因此大部分企业的销售分析、经营分析、业务分析体系,都是在此基础之上建立起来的(如下图)。

但是这个阶段的局限也是很明显的:POS机只能记录交易结果,对过程一概不知。谁在买,买了多少,为啥买,通通不清楚。

这个阶段的分析,是典型的知其然,不知其所以然的分析,大部分分析只能通过成交结果去猜。如果只有这个阶段的数据,想做深入分析,还是得依靠调研。比如传统企业想了解门店成交流程,会做门店调查,研究消费者在门店的动线,询问消费者体验。

▌数据变大第二步:主动采集

有了系统采集以后,大家自然地会想:除了交易数据,其他数据也能通过系统化采集。比如最简单的形式:让用户自己交身份证,通过图像识别录入。这样既能采集到用户数据,又能避免手动填写的错误。

但是问题来了:凭啥要交身份证给你呀!于是传统采集,只有银行、航空、通讯等有国家背景+法律规范要求的地方,才能相对准确的采集这些真实数据。

不过这些困难并没有阻挡住企业采集信息的热情。常见的手段,比如:勾引用户办会员卡,给生日礼遇让用户填写生日。用户完成信息给积分奖励之类。更激进的,甚至有常识在门店装人脸识别、装眼动仪跟踪设备来采集数据(当然,成本很高)。

为什么企业会孜孜不倦追求这些数据,因为这些数据真的有用。至少能把数据具体到一个人的身上,能识别出谁是高端用户,谁是沉睡用户,从而精细化运作(如下图)

真正低成本的、解决采集消费者行为数据的问题,还得靠互联网产品。

▌数据变大第三步:行为加入

互联网产品的最大优势,在于App/小程序/H5本身就是数字化产品。此时不但有条件记录到用户的点击、登录等行为数据,而且能将用户ID、手机号等信息整合成统一ID,效率比依赖线下纸质单张申请的流程强无数倍。

还能将视频、图片、文章等内容打标签,通过用户点击、转发次数,浏览时长,反推用户需求。对于经历过传统企业数据的人来说,互联网产品的数据简直就是鸟枪换炮。

相较之传统的会员基础信息、消费流水数据,用户行为数据量特别、特别的大,大家想想自己在淘宝逛多久才买一件东西就知道了。可能之前几百次点击浏览,最后才有一单交易。

因此,需要专门的大数据架构来支持这些数据的存储和计算。狭义上的大数据技术,特指对大量的用户行为数据、非结构化数据的存储和计算。

有了这些数据,才有现在我们流行的互联网分析方法,比如漏斗分析法(如下图)。

基于这些基础数据采集,还能延伸出更多数据应用,比如:

1、模型类:行为预测、推荐算法

2、测试类:产品ABtest

3、画像类:用户画像

虽然这些方法,基于交易数据也能做,但是数据量多寡,直接决定了结果准确度。从而影响到业务端使用。在传统时代,只有银行、运营商、航空公司独享的分析方法,成为现在互联网公司的标配。

然而即使这样,既然有一些问题不能解决

● 用户数据分散在若干平台,导致单一平台数据不足

● 用户心理无法直接反应为数据,冲动型行为会干扰正常数据判断

● 信息安全法规要求越发严格,对数据采集/使用限制在增多

因此,如何合法合规、持续利用大数据资源,依然是今天一个重要议题。

03上不了台面的“变大”方法

当然,还有一些灰色/黑色的方法,让数据变大

1、直接从“有数据”的人手上,买数据!

2、爬虫、撞库,硬捞用户数据

3、通过设备,默默收集用户数据

这就是各种骚扰电话、垃圾短信的源头。当然,随着国家对信息安全保护要求越来越严格,这些玩意生存空间也是逐步被压缩,所以不谈也罢。

04“大数据有啥用”的终极答案

纵观数据从小到大的整个过程可以看出:数据从来都有用。即使最简单、最不准的数据,也能反应管理上的问题。因此决策者们对于数据的追求,永远是孜孜不倦的,永远是不满足的。(如下图)

那么,为什么还有这么多人在问“大数据有啥用”呢?

因为并非所有人都理解“数据”的用途,别说大数据了,小数据丫也照样不会用。

截止到2023年,依然有人是拍脑袋决策,拍胸脯保证;依然有人沉迷于“老夫从业十年,我说的就是对的”;依然有人觉得大数据包治百病,代码一敲,钞票从电脑屏幕里喷薄而出;依然有人迷信“底层逻辑”“核心思维”,苦练内功心法。

总之,想用好数据,就得深入业务流程,具体了解数据采集方式,这样才能读懂数据背后的业务含义,才能把自己面临的具体问题转化为数据问题,才能解出正确答案。

采集和计算数据,是一门科学

应用数据产生价值,是一种艺术

差别大致如此。

免责声明:

① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。

② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341

来说说,什么才是真正的大数据分析

下载Word文档到电脑,方便收藏和打印~

下载Word文档

猜你喜欢

来说说,什么才是真正的大数据分析

数据是如此重要,以至于历史上很长一段时间,统计任务归属于政府、军队、情报机关。我国的第一家调查公司还是在90年代初,在宝洁强烈要求下成立的。

这才是真正的数据分析项目,而不是爬表

计划类工作在跳槽的时候也很好用。因为制定计划涉及整个公司经营分析指标体系,经营方向确认,通过计划类项目,能很好地建立全局认知,在面试官面前显得很有水平。​

新个体正在崛起,未来是大数据说得算,细品真的很恐怖

这个年头,能干的不如会吹的,会吹的不如会写的,会写的不如会拍的,会拍的不如懂数据的,懂数据的不如做电商的,做电商的不如“新个体”。

这才是真正的数据分析报告,你那只是念PPT

到了每日汇报的时候,很多新人会习惯性地像11号一样写上一堆。甚至还有些官僚化的企业,会把这种格式一直流传下去,一传好几年。最后的结果自然是搞到没人看。为啥?因为从12号开始,已经是例行更新,后续的数据走势其实和之前看起来差不多。

这才是真正的数据分析项目,而不是取数发通报

计划类工作在跳槽的时候也很好用。因为制定计划涉及整个公司经营分析指标体系,经营方向确认,通过计划类项目,能很好地建立全局认知,在面试官面前显得很有水平。

GenAI与数据保护:对雇主来说最大的风险是什么?

如果你是雇主,打算试验像ChatGPT这样的GenAI工具,有一些数据保护陷阱需要引起注意。近年来,美国、欧洲和全球范围内的隐私和数据保护立法不断增加,你不能简单地将人力资源数据输入GenAI工具。
ChatGPTGenAI2024-11-29

为什么说Raft原生系统是流式数据的未来?

Apache Kafka正逐渐引入Kraft以简化一致性方法,基于Raft而建的系统则给明天的超大规模工作负载带来了希望。

大数据分析的常见思路是什么

大数据分析的常见思路是什么,相信很多没有经验的人对此束手无策,为此本文总结了问题出现的原因和解决方法,通过这篇文章希望你能解决这个问题。数据分析的常见思路,是具有指导意义的方法论,可以指导读者往哪些方向分析数据。但不限于数据分析,这些思路,
2023-06-19

大数据分析是什么、它是如何工作的

大数据分析描述了在大量原始数据中发现趋势、模式和相关性的过程,以帮助做出基于数据的决策。这些过程使用熟悉的统计分析技术,并在更新的工具的帮助下将它们应用于更广泛的数据集。

Python的三大开源数据分析工具是什么

本文小编为大家详细介绍“Python的三大开源数据分析工具是什么”,内容详细,步骤清晰,细节处理妥当,希望这篇“Python的三大开源数据分析工具是什么”文章能帮助大家解决疑惑,下面跟着小编的思路慢慢深入,一起来学习新知识吧。在大数据库领域
2023-06-02

什么是数据湖?用于大数据分析的大规模可扩展存储

用户需要深入了解什么是数据湖、如何使用数据湖以及数据湖与数据仓库的不同之处和他们之间的互补性。

搭建大数据分析平台的必要性是什么

这篇文章将为大家详细讲解有关搭建大数据分析平台的必要性是什么,文章内容质量较高,因此小编分享给大家做个参考,希望大家阅读完这篇文章后对相关知识有一定的了解。  大数据时代,几乎每一个企业都对数据分析平台趋之若鹜,尤其是在今年疫情爆发之后,更
2023-06-02

搭建大数据分析系统的4个层级分别是什么

搭建大数据分析系统的4个层级分别是什么,针对这个问题,这篇文章详细介绍了相对应的分析和解答,希望可以帮助更多想解决这个问题的小伙伴找到更简单易行的方法。关于企业的大数据体系构建,可以分为4个层级,每个层级之间可以是递进的关系,虽然业务主导不
2023-06-02

Python数据分析需要解答的三大问题是什么

本篇文章给大家分享的是有关Python数据分析需要解答的三大问题是什么,小编觉得挺实用的,因此分享给大家学习,希望大家阅读完这篇文章后可以有所收获,话不多说,跟着小编一起来看看吧。Windows系统并没有自带Python工具,需要我们自己搭
2023-06-02

2023展望:新的一年将给大数据分析领域带来什么?

数据仓库一直很受欢迎,尤其是在云端。但SAS执行副总裁兼首席信息官Jay Upchurch表示,预计2023年将有更多客户从传统数据仓库转向实时数据存储和分析。

大数据的下一步是什么?混合服务/分析处理(HSAP)

混合服务/分析处理(HSAP)具有强大的分析能力,那么会取代大数据技术吗?大数据的下一步发展是什么?

编程热搜

  • Python 学习之路 - Python
    一、安装Python34Windows在Python官网(https://www.python.org/downloads/)下载安装包并安装。Python的默认安装路径是:C:\Python34配置环境变量:【右键计算机】--》【属性】-
    Python 学习之路 - Python
  • chatgpt的中文全称是什么
    chatgpt的中文全称是生成型预训练变换模型。ChatGPT是什么ChatGPT是美国人工智能研究实验室OpenAI开发的一种全新聊天机器人模型,它能够通过学习和理解人类的语言来进行对话,还能根据聊天的上下文进行互动,并协助人类完成一系列
    chatgpt的中文全称是什么
  • C/C++中extern函数使用详解
  • C/C++可变参数的使用
    可变参数的使用方法远远不止以下几种,不过在C,C++中使用可变参数时要小心,在使用printf()等函数时传入的参数个数一定不能比前面的格式化字符串中的’%’符号个数少,否则会产生访问越界,运气不好的话还会导致程序崩溃
    C/C++可变参数的使用
  • css样式文件该放在哪里
  • php中数组下标必须是连续的吗
  • Python 3 教程
    Python 3 教程 Python 的 3.0 版本,常被称为 Python 3000,或简称 Py3k。相对于 Python 的早期版本,这是一个较大的升级。为了不带入过多的累赘,Python 3.0 在设计的时候没有考虑向下兼容。 Python
    Python 3 教程
  • Python pip包管理
    一、前言    在Python中, 安装第三方模块是通过 setuptools 这个工具完成的。 Python有两个封装了 setuptools的包管理工具: easy_install  和  pip , 目前官方推荐使用 pip。    
    Python pip包管理
  • ubuntu如何重新编译内核
  • 改善Java代码之慎用java动态编译

目录