谈到人工智能，存在两种现实争议。
其中一种是，AI未来如此光明，以至于你需要戴上焊接护目镜才能看一眼。人工智能是一项核心技术，就像电力和互联网一样，对全球人类运营至关重要。
但在另一个现实中，寒冬即将到来，这也是我们今天要探讨的话题。
其实，需要担心即将到来寒冬的人，就是那些试图做我们称之为“黑盒炼金术”的人。
我们其实还不能把任何人工智能的努力称为“炼金术”，因为至少把一种金属变成另一种金属的想法还是有一些科学价值。
我们说的是一种当前广受欢迎的AI研究方式，即研究人员建立一些蹩脚的预测模型，然后编造一些虚假的问题，最终试图证明人工智能比人类更擅长解决此类问题。
当你把这一切都写在一句话里时，听起来似乎很明显这是一个骗局。但我在这里要告诉你的是，黑盒炼金术目前在学术研究中占很大一部分，这是非常不利于发展的一件事。
黑盒炼金术是指人工智能研究人员利用人工智能擅长的事情——比如当你在谷歌上搜索某个东西时返回相关结果——并试图使用相同的原则去做一些看似不可能的事情。
由于人工智能无法解释它为什么会产生这样的结果(因为AI工作是在一个我们看不到里面的黑盒子里进行的)，研究人员假装他们在做科学研究，而不需要展示任何过程工作。
黑盒炼金术的骗局是这样运作的：研究人员想出了一个方案，允许他们开发一个在给定任务上比人类判断“更准确”的人工智能模型。
毫不夸张地说，这是最难的部分。你不能选择一个简单的任务，比如看图片然后判断里面是猫还是狗，在这一任务中，人类会有100次挫败AI，因为我们很擅长分辨猫和狗。
你也不能选择一个太复杂的任务。例如，训练一个预测模型来确定20世纪30年代的哪些专利与现代热力学应用最相关，这是没有意义的。能在这场游戏中获胜的人类数量太少了，而且根本不重要。
你必须选择一个普通人认为可以通过科学方法观察、测量和报告的任务，让AI更高效的识别并完成，但实际上它不能。
一旦你做到了这一点，剩下的就很简单了，举个例子：
我最喜欢的黑盒炼金术的例子是斯坦福的盖达的一篇论文，这简直是黑盒炼金术的杰作！
研究人员在人脸数据库上训练了一个基本的计算机视觉系统。这些面孔先被贴上自我报告标签，表明照片中的人是同性恋还是异性恋。
随着时间的推移，它们的准确度达到了超人的水平。
最终研究人员表示，人工智能比人类更善于分辨哪些面孔是同性恋，但没有人知道原因。
事实是这样的：没有人能分辨出另一个人是不是同性恋。我们人类可以猜测，有时我们可能会猜对，有时我们可能会猜错，但是这并不是科学。
科学需要观察和测量，如果没有东西可以观察或测量，我们就无法进行科学研究。同性恋不是基本事实，当前对同性恋没有一套科学的测量定义的方法。
通俗的来讲，如果你经历过同性间的吸引，或者只有你付诸行动，你是同性恋吗? 你能在有同性恋体验的同时保持直男身份吗?要有多少同性恋想法才能让你成为同性恋，谁来决定呢?
一个简单的事实是，人类的性取向不是一个你可以在图表上画出来的点。没人能确定别人是不是同性恋。
同性恋无法经过科学测试验证。这意味着斯坦福大学的研究团队不能训练AI人工智能来检测同性恋，它只能训练AI在一个带有歧视的游戏案例中打败人类。
斯坦福大学的AI论文只是成千上万个黑盒炼金术的例子之一。没有人会对这方面的研究如此受欢迎感到惊讶，这是ML研究中唾手可得的成果。
这是好事也是坏事。好消息是，现在世界上有比以往任何时候都多的AI/ML研究人员，而且这个数字还会继续增长。
糟糕的是，地球上的每一个人工智能教室里都挤满了不理解Magic 8-Ball和预测模型之间区别的学生，而更少的人理解为什么前者在预测人类结果方面更有用。
以下是建议每个学生、研究人员、教授和AI开发者都可以做的三件事，让整个AI/ML领域对每个人都更好。
1. 不要使用黑盒炼金术。在开始任何与预测相关的人工智能项目之前，你应该问的第一个问题是：这会影响人类的结果吗?如果用于衡量项目有效性的唯一科学方法是将其与人类的准确性进行比较，那么很可能您的AI研究工作并不出色。
2. 不要仅仅因为无法负担现有数据库的管理费用，就超越以前模型设定的基准而创建新的模型。
3. 不要在不能保证准确和多样化的数据上训练AI模型。
可现实是，在AI/ML领域，有很大一部分学生可能很难做出任何不违反上述三种规则的创新。
这是因为黑盒炼金术很简单，不用大型科技公司的资源，毕竟不是任何人都可能建立定制数据库，只有少数几所大学和公司能够负担得起训练大参数模型。
对于新一代AI开发者来说，要想在这个时代取得更大的成就，唯一的方法就是驳斥当前的黑盒炼金术趋势，开辟一条脱离现状的道路——就像早前一批先锋AI开发者在他们的时代所做的那样。
以上就是今天的AI小咩话你知，大家有什么好玩的黑科技知识可以一起来探讨哦！
喜欢的话，麻烦手留余香点个关注，点个赞哦！
咩咩哒~~
#科技##科技微讯##人工智能##让AI触手可及##AI科技潮玩#
| 留言与评论（共有 0 条评论） “” |
