APP推广合作
联系“鸟哥笔记小乔”
增长策略:如何通过AB测试评估活动效果及优化?
2019-03-19 16:05:11

电商行业充斥着大大小小的促销活动,O2O领域也常常上演补贴大战,在开疆辟土阶段,砸钱让利招揽用户的法子自然最为好使,但当形成一定规模之后,疯狂促销补贴的模式是否仍然高效?个性化的运营策略是否有必要?活动的真实效果到底如何?

为了解决以上问题,建立科学的活动效果评估体系,当前最简便的方法莫过于AB测试。

一、如何建立评估体系?

AB测试目前广泛应用于产品灰度发布阶段,除此以外,AB测试还有更为广泛的用途,比如精准营销等增长策略。

要进行某类方案的验证,其理念非常朴素,无非就是控制变量,但商业世界尤其复杂,想要控制一切不相干变量极其困难,因此AB测试大行其道,成为了检验“真理”的常用标准。

基于AB测试的思想,通过随机分组,可以保证两个组的其他变量基本一致,通过对实验组施加影响,来观察实验组相对于对照组的表现差异,从而评估该影响的效果。

接下来,我们就以电商行业的促销活动为例,尝试构建促销的评估体系。


首先,通过标签筛选出潜在人群,并随机抽取一部分用户作为测试组,在不做任何干预的情况下,暗中观察用户的转化情况。

对于实验组的用户,我们通过定向优惠券加短信触达的形式进行干预,然后静静等待用户转化。

对于对照组而言,用户都是自然转化,而实验组的用户是在干预下产生的转化。在实验组中,一部分用户确实是被优惠吸引,从而下单购买,但还有一部分用户即使没有优惠券也很有可能自然转化。

因此,我们以对照组的转化率作为没有优惠券情况下的自然转化率,那么,我们可以得到以下与用户相关的指标:

用户基线=干预总人数*自然转化率

用户提升=干预总人数*(干预转化率-自然转化率)

用户提升率=用户提升/用户基线

同理,从经营分析的层面,我们可以评估实际的销售效果:

GMV基线=用户基线*客单价

GMV提升=用户提升*客单价

成本=每单优惠金额*下单用户量+每条短信资费*干预总人数

GMV净提升=GMV提升-成本

最终,我们可以得到评估经营效果的综合指标:

GMV净提升率=GMV净提升/GMV基线

ROI=GMV净提升/成本

上边的指标这么多,那哪个才是最重要的呢?

以上指标罗列的目的是便于理解指标的拆解计算过程。但对于不同角色而言,最终只需要关注与其相关的结果指标。

对于运营或者营销而言,他们的考核目标可能聚焦于月活跃用户数,所以,他们会更关心用户提升率,通过多次活动的横向比较,可以识别活动效果的好坏,从而再逐步挖掘根因。

对于负责销售的同事而言,需要考量的因素会相对复杂一些,但他们也可以直接通过GMV净提升率和ROI这两个指标来评估活动的综合效果。

其中,GMV净提升率反应的是活动对于GMV的提升效果,如果当前的目标是不惜一切代价冲GMV的话,那么应该选择GMV净提升率高的活动形式或力度。

而如果需要权衡考量利润的话,那么还应该把ROI纳入分析,选取GMV净提升率较高,同时ROI也较为可观的活动方案。

二、如何构建优化策略?

上边有提到,运营或者销售可以通过AB测试优化活动方案,那么具体应该如何实现呢?

如果需要测试不同促销形式、不同活动力度的效果,那么有必要对实验组进一步细分。

例如,对于实验组1可以发放满100减20的券,实验组2发放满100减10的券,最后与对照组比对分析活动效果差异。满100减20的券GMV提升可能较高,但由于成本较大,也会导致GMV净提升率和ROI并不高。

同样,对于不同促销形式,如定向优惠券、定向优惠价格等,同一折扣力度不同门槛,如100减20和200减40,也可以以相似方法进行测试。

进行多次AB测试之后,可以根据历史测试数据进行初步判断,识别符合目标的最优促销方案。

三、AB测试有哪些坑?

方法论总是看上去很美好,但一到落地层面就会面临很多意想不到的问题,下面就来扒一扒,按照上述AB测试的方法来做活动效果评估及优化会有哪些坑。

1) 测试组人数太少。测试组和实验组的人数不需要完全一样,但各组的人数要保证有统计学上的意义,如果实验组10w人,测试组只有10个人,那么测试组的结果受个体的影响会很大,最终可能导致异常的结果。

2) 实验组人数太少。如果想要测试什么门槛的优惠券效果更好,那么需要拆分多个实验组,发放不同的优惠券,如果分的组太多,会使得每个实验组人数偏少,从而导致结果不准确。

3) 你的测试组是别人的实验组。现实环境下,不存在绝对干净的试验田,你以为测试组可以代表用户在不受干扰下的自然转化,殊不知有其他活动已经将他们划入了实验组。如果是公司内部的冲突,那么可以在数据回流后剔除掉参与其他实验的用户,但如果是受到外部友商的干扰,那么我们将无从知晓,只有通过多次实验综合评估,对冲单次活动可能会面临的特殊情况。

4) 你的实验组是别人的实验组。同理,外部友商可能有更大力度的活动,刚好圈定了你的实验组用户,那么结果可想而之。

5) 干预时间滞后。从圈定用户、申请优惠券到最后的短信触达,这个时间多少有些滞后,如果系统不判断用户是否已经下单,那么用户在下单之后才收到优惠券,一方面会影响体验,另一方面,用户可能取消订单后再下单,导致履约成本的上升。如果在发送短信前剔除已下单用户,那么最后实际干预的都是购买倾向相对偏弱的人群,会导致结果失准。因此,营销系统的完善性、各部门的协同执行力都至关重要。

结语

现实世界纷繁复杂,想要抽丝剥茧,捋出头绪谈何容易。试验总会好过停步不前,在实践之中,我们可以学着避开一个又一个的坑。

我们都在试图去搭建一个框架,在这个框架下反复地探究,找到一丝可能的线索,最终,这些线索会编织起一个网络。

运营那些事儿
分享到朋友圈
收藏
收藏
评分

综合评分:

我的评分
Xinstall 15天会员特权
Xinstall是专业的数据分析服务商,帮企业追踪渠道安装来源、裂变拉新统计、广告流量指导等,广泛应用于广告效果统计、APP地推与CPS/CPA归属统计等方面。
20羽毛
立即兑换
一书一课30天会员体验卡
领30天VIP会员,110+门职场大课,250+本精读好书免费学!助你提升职场力!
20羽毛
立即兑换
顺丰同城急送全国通用20元优惠券
顺丰同城急送是顺丰推出的平均1小时送全城的即时快送服务,专业安全,准时送达!
30羽毛
立即兑换
运营那些事儿
运营那些事儿
发表文章49316
确认要消耗 羽毛购买
增长策略:如何通过AB测试评估活动效果及优化?吗?
考虑一下
很遗憾,羽毛不足
我知道了

我们致力于提供一个高质量内容的交流平台。为落实国家互联网信息办公室“依法管网、依法办网、依法上网”的要求,为完善跟帖评论自律管理,为了保护用户创造的内容、维护开放、真实、专业的平台氛围,我们团队将依据本公约中的条款对注册用户和发布在本平台的内容进行管理。平台鼓励用户创作、发布优质内容,同时也将采取必要措施管理违法、侵权或有其他不良影响的网络信息。


一、根据《网络信息内容生态治理规定》《中华人民共和国未成年人保护法》等法律法规,对以下违法、不良信息或存在危害的行为进行处理。
1. 违反法律法规的信息,主要表现为:
    1)反对宪法所确定的基本原则;
    2)危害国家安全,泄露国家秘密,颠覆国家政权,破坏国家统一,损害国家荣誉和利益;
    3)侮辱、滥用英烈形象,歪曲、丑化、亵渎、否定英雄烈士事迹和精神,以侮辱、诽谤或者其他方式侵害英雄烈士的姓名、肖像、名誉、荣誉;
    4)宣扬恐怖主义、极端主义或者煽动实施恐怖活动、极端主义活动;
    5)煽动民族仇恨、民族歧视,破坏民族团结;
    6)破坏国家宗教政策,宣扬邪教和封建迷信;
    7)散布谣言,扰乱社会秩序,破坏社会稳定;
    8)宣扬淫秽、色情、赌博、暴力、凶杀、恐怖或者教唆犯罪;
    9)煽动非法集会、结社、游行、示威、聚众扰乱社会秩序;
    10)侮辱或者诽谤他人,侵害他人名誉、隐私和其他合法权益;
    11)通过网络以文字、图片、音视频等形式,对未成年人实施侮辱、诽谤、威胁或者恶意损害未成年人形象进行网络欺凌的;
    12)危害未成年人身心健康的;
    13)含有法律、行政法规禁止的其他内容;


2. 不友善:不尊重用户及其所贡献内容的信息或行为。主要表现为:
    1)轻蔑:贬低、轻视他人及其劳动成果;
    2)诽谤:捏造、散布虚假事实,损害他人名誉;
    3)嘲讽:以比喻、夸张、侮辱性的手法对他人或其行为进行揭露或描述,以此来激怒他人;
    4)挑衅:以不友好的方式激怒他人,意图使对方对自己的言论作出回应,蓄意制造事端;
    5)羞辱:贬低他人的能力、行为、生理或身份特征,让对方难堪;
    6)谩骂:以不文明的语言对他人进行负面评价;
    7)歧视:煽动人群歧视、地域歧视等,针对他人的民族、种族、宗教、性取向、性别、年龄、地域、生理特征等身份或者归类的攻击;
    8)威胁:许诺以不良的后果来迫使他人服从自己的意志;


3. 发布垃圾广告信息:以推广曝光为目的,发布影响用户体验、扰乱本网站秩序的内容,或进行相关行为。主要表现为:
    1)多次发布包含售卖产品、提供服务、宣传推广内容的垃圾广告。包括但不限于以下几种形式:
    2)单个帐号多次发布包含垃圾广告的内容;
    3)多个广告帐号互相配合发布、传播包含垃圾广告的内容;
    4)多次发布包含欺骗性外链的内容,如未注明的淘宝客链接、跳转网站等,诱骗用户点击链接
    5)发布大量包含推广链接、产品、品牌等内容获取搜索引擎中的不正当曝光;
    6)购买或出售帐号之间虚假地互动,发布干扰网站秩序的推广内容及相关交易。
    7)发布包含欺骗性的恶意营销内容,如通过伪造经历、冒充他人等方式进行恶意营销;
    8)使用特殊符号、图片等方式规避垃圾广告内容审核的广告内容。


4. 色情低俗信息,主要表现为:
    1)包含自己或他人性经验的细节描述或露骨的感受描述;
    2)涉及色情段子、两性笑话的低俗内容;
    3)配图、头图中包含庸俗或挑逗性图片的内容;
    4)带有性暗示、性挑逗等易使人产生性联想;
    5)展现血腥、惊悚、残忍等致人身心不适;
    6)炒作绯闻、丑闻、劣迹等;
    7)宣扬低俗、庸俗、媚俗内容。


5. 不实信息,主要表现为:
    1)可能存在事实性错误或者造谣等内容;
    2)存在事实夸大、伪造虚假经历等误导他人的内容;
    3)伪造身份、冒充他人,通过头像、用户名等个人信息暗示自己具有特定身份,或与特定机构或个人存在关联。


6. 传播封建迷信,主要表现为:
    1)找人算命、测字、占卜、解梦、化解厄运、使用迷信方式治病;
    2)求推荐算命看相大师;
    3)针对具体风水等问题进行求助或咨询;
    4)问自己或他人的八字、六爻、星盘、手相、面相、五行缺失,包括通过占卜方法问婚姻、前程、运势,东西宠物丢了能不能找回、取名改名等;


7. 文章标题党,主要表现为:
    1)以各种夸张、猎奇、不合常理的表现手法等行为来诱导用户;
    2)内容与标题之间存在严重不实或者原意扭曲;
    3)使用夸张标题,内容与标题严重不符的。


8.「饭圈」乱象行为,主要表现为:
    1)诱导未成年人应援集资、高额消费、投票打榜
    2)粉丝互撕谩骂、拉踩引战、造谣攻击、人肉搜索、侵犯隐私
    3)鼓动「饭圈」粉丝攀比炫富、奢靡享乐等行为
    4)以号召粉丝、雇用网络水军、「养号」形式刷量控评等行为
    5)通过「蹭热点」、制造话题等形式干扰舆论,影响传播秩序


9. 其他危害行为或内容,主要表现为:
    1)可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成年人不良嗜好影响未成年人身心健康的;
    2)不当评述自然灾害、重大事故等灾难的;
    3)美化、粉饰侵略战争行为的;
    4)法律、行政法规禁止,或可能对网络生态造成不良影响的其他内容。


二、违规处罚
本网站通过主动发现和接受用户举报两种方式收集违规行为信息。所有有意的降低内容质量、伤害平台氛围及欺凌未成年人或危害未成年人身心健康的行为都是不能容忍的。
当一个用户发布违规内容时,本网站将依据相关用户违规情节严重程度,对帐号进行禁言 1 天、7 天、15 天直至永久禁言或封停账号的处罚。当涉及欺凌未成年人、危害未成年人身心健康、通过作弊手段注册、使用帐号,或者滥用多个帐号发布违规内容时,本网站将加重处罚。


三、申诉
随着平台管理经验的不断丰富,本网站出于维护本网站氛围和秩序的目的,将不断完善本公约。
如果本网站用户对本网站基于本公约规定做出的处理有异议,可以通过「建议反馈」功能向本网站进行反馈。
(规则的最终解释权归属本网站所有)

我知道了
恭喜你~答对了
+5羽毛
下一次认真读哦
成功推荐给其他人
+ 10羽毛
评论成功且进入审核!审核通过后,您将获得10羽毛的奖励。分享本文章给好友阅读最高再得15羽毛~
(羽毛可至 "羽毛精选" 兑换礼品)
好友微信扫一扫
复制链接