如何考察一家教育测评公司是否靠谱?
¥某高级投资经理问:
张老师,我去和其他测评类公司沟通时,从您的专业角度来看,问那些核心问题或者角度可以检测出这家公司是否靠谱?(有真材实料)[微笑]
¥答:
因为教育测量评价与其他行业不一样,具有高度的专业性和实证性,需要从以下几个维度去考察:
一,从学术维度:
其核心研发人员有无在教育类核心刊物上发表教育测评类论文
——接受同行检验(因为同行才是最懂的);
二、从专业维度:
最基本的是其过去所做的测评数据,是否有信度、效度检测
——这是最基本的专业指标;
三、从研发+实证维度:
考察其研发时间
——如果低于3年,就连看都不用看了,因为根本不成立;
考察其实证时间和样本量
——如果实证时间少于5年,就不用了解了;
——如果其样本量低于600万人,那就很危险。
四,从用户维度:
看其产品和服务使用的用户反馈。
——用户反馈需要严格注意几个事:
是否客观(是否符合实际情况);
是否准确(指向性是否强);
是否精确(是否含糊);
是否解决问题;
其他,才是考察其测量指标与结构、算法等等。
没有自己核心论文的公司,你连看都不要看。
——因为没有专业价值和学术价值。
你考察其他测评公司的专业度
——即信度、效度时,最有效的方法是,你直接向他要他做过的客户,给他们开的验收单。
¥某投资高级经理问:
科学性和可靠性这两个指标有最低要求吗?
¥答:
当然有!
可靠性,一般抽取其做过的客户的5%左右,设定问题,一一仔细查问。
比如,拿ACTS学业评价而言,设定的问题:
1,这份评价报告,是否反映了学生学习的客观情况?
2,这份评价报告上的长短板,是否是学生学习上真实存在的薄弱点?
3,这份评价报告上的优劣势,是否是学生学习与其他同学的真实比较?
4,这份评价报告诊断的原因,是否是学生学习上真实存在的?
等等。
根据设定的问题,一一打分,最后算出总分。
总分低于72%,等于直接不成立——测评技术作废。
简单的说,考察一家测评公司,就看几点:
1,论文 (至少3篇以上);
2,验收单 (至少3家以上);
3,研发+实证时间,不低于8年;
4,科学性与可靠性得分不低于72%。
这是最低要求。
网友评论