实验是做出基于数据的决策的关键工具之一。通过它,我们可以优化流程,改善用户体验,并最终提高转化率。然而,当涉及流量较低的数字业务时,这种方法可能会变得复杂。这是因为有限的流量带来了额外的挑战,需要调整测试策略和结果解释。
在本文中,我们将告诉您流量较低的公司在进行实验时如何应用传统 A/B 测试之外的其他验证方法。
当我们谈论低流量时,我们不仅仅指访问网站的用户总数低。随着用户在转化渠道中不断前进,这个问题会变得更加严重,每个步骤(例如开始结帐或转化为购买)由更少的人完成。
这使得需要大量用户样本才能获得可靠结果的标准 A/B 实验难以实施。因此,有必要考虑更好地适应这些限制的替代方法。
超越传统 A/B 测试的思维
A/B 测试是数字实验中的经典方法,对于流量较低的企业来说可能不够充分或有效。
在处理小样本时,除了版本之间存在微小差异的典型方法之外,探索其他假设验证方法至关重要。在许多情况下,测试更大、风险更大的更改或通过用户测试进行验证以及许多其他选项,可以提供更清晰、更切实的结果。
实验计划的关键概念
在进行有效的实验计划之前,除了了解我们业务中的流 台湾电话号码数据 量如何影响我们实验计划的可靠性和验证之外,还有必要了解实验的一系列关键概念。
MDE(最小可检测效应)
MDE 是可以可靠检测到的两个测试版本(A 和 B)之间的最小差异。在流量很少的情况下试验数字业务是一个非常重要的支柱。
在高流量业务中,可以检测变体之间的微小差异,例如更改按钮的颜色或位置。然而,在流量较小的业务中,必须考虑到小的改变可能不足以实现可靠的结果,或者需要很长时间才能获得可靠的结果。
A/B 测试中可检测到的最小影响
当流量和时间较多时,低 MDE 会提供最低限度的可靠结果(中心图像)。另一方面,当时间和流量稀缺时,需要非常高的 MDE才能获得可靠的结果。
置信度
在大多数测试中,使用95% 的置信水平,这意味着结果有 95% 的概率不是偶然结果。
统计功效是测试检测真实效果(如果存在)的能力。一般采用80%的统计功效。在低流量环境中,我们可能必须降低该值才能获得结果,但这也意味着接受更高的误报风险。
您可以使用CXL 的 Speero计算器根据行业标准进行计算。
测试时间
尽管可能会倾向于将测试延长很长一段时间以获取更多数据,但这可能会导致问题。如果测试持续太长时间,外部因素(例如竞争对手的促销或网站上的特定下降)可能会改变结果。
一般来说,建议将测试持续时间限制在2~3周左右,以尽量减少外界因素的干扰。
实验中的策略调整
A/B 实验的关键在于与我们想要获得的潜在学习相比,我们愿意承担的潜在风险(应用更剧烈的改变、研究投资、统计严谨性等)。在流量有限的情况下,潜在的风险会增加,以至于我们希望保持相同的学习量。
A/B 实验的风险
增加 MDE
由于在低流量的情况下很难检测到微小的变化,因此有必要瞄准更剧烈的变化。例如,不改变按钮大小等次要细节,而是可以尝试更极端的设计变化,例如完全重新设计按钮,或修改其操作,这会引起用户更加两极分化的反应。请记住,变化越大,可检测到的效果就越显着,从而得到更清晰的结果。
但是我们如何在实验程序中增加 MDE 呢?
更好地了解用户
定性分析(例如访谈或会议录音分析)可能是了解哪些变化最有可能产生重大影响的关键。我们对用户需求和摩擦了解得越多,我们就能更好地设计产生明确结果的测试。
调整统计严谨性
降低置信度和统计功效有助于在更短的时间内获得结果,尽管代价是降低其确定性。每家公司必须根据自己的目标和学习能力决定愿意承担多少风险。
在变革中承担更大的风险
在某些情况下,可能有必要冒更彻底的改变的风险。测试显着改变用户体验的视觉或结构变化可能会导致更加两极分化,但也更容易衡量的反应。
微观转化和次要 KPI
如果由于缺乏流量而无法衡量最终转化(例如购买),您可以选择衡量微转化或次要 KPI。
我们不应该仅仅局限于衡量转化。还可以进行 什么是网络攻击? 其他测量,其中包括将产品添加到购物车、启动结账流程或与页面上的关键元素进行交互的用户数量。这些中间指标提供了用户如何响应变化的想法,并允许在整个漏斗中获得学习。
增加测试的持续时间
最后,虽然我们之前评论过不建议将测试延长超过 2 或 3 周,但由于影响我们数据的外部因素可能会增加,但重要的是要了解,我们让测试运行的时间越长,我们可以检测到 MDE 的时间会更少。最后一个解决方案并不能帮助我们增加 MDE,但了解测试的持续时间和 MDE 之间的关系将有助于我们更好地决定愿意让测试运行多长时间。
结论
尽管面临挑战,只要采取适当的策略,在低流量业 uab 目錄 务中进行试验是可能的。关键是要使传统的实验方法适应流量限制,并愿意承担一定的风险,并使用超越 a/b 实验的不同的假设验证方法。通过专注于持续学习、定性分析和基于可靠数据的决策,即使是最小的企业也可以从实验中受益,以提高绩效并优化转化渠道。
请记住,在每次访问都很重要的环境中,采用灵活、深入的实验思维方式可能意味着停滞与增长之间的区别。在万岁!转换已准备好帮助您设计和执行定制的实验策略,即使在流量较低的情况下也能最大限度地提高数字业务的性能。