画画太岁 作品

第309章 开个价吧(补昨天的一章6837,今天还会写一章)

 “这是你的办公室?”

 马斯克环顾了一下四周,足足不下七八块显示器,还有一个大工作台,上面凌乱的摆满了各种工具和零件以及两套机械手。

 墙边放着两台stratasys的3d打印机,墙角处还有一个不知道是什么东西的玩意儿盖着一块黑布。

 “我在柚子科技没有办公室,这是我的私人实验室。”方豫扔给马斯克一瓶水,“没想到你会想要和我单独对话,没单独准备饮料,别见怪。”

 马斯克接过水,拧开瓶盖喝了一口。

 他有种感觉,面前这个年纪只比自己儿子大五六岁的年轻人,并没有像其他人对他一样的尊敬和仰视。

 自从6年前spacex的猎鹰9号成功发射后,马斯克走到哪里都是鲜花和掌声,都把他视作真正的硅谷钢铁侠。

 虽然他并不住在硅谷。

 在去年猎鹰9号成功回收以及特斯拉推出了第一款量产电动汽车n神经网络,而且采用了大量人工标注驾驶数据训练他们的算法,而没有采用端到端的方式来进行训练。

 这种模式的上限很低,最多只能到l3,想要突破,就必须改变技术路径。

 使用开源的橘子大模型也是一个方案,但特斯拉在没有柚子科技的后台支持下,使用的又是落后了整整一代的开源大模型,无论是效率还是效果都不可能做到最好。

 尤其在影像识别领域,目前特斯拉的自动驾驶难以实现针对某些特定突发状况的识别。

 比如突然出现的大型车辆,方豫在开models的时候就已经发现,当在高速行驶时,前面有大车的情况下,大车减

速或突然停止,存在识别不出来前方情况的可能性。

 虽然models的自动驾驶包体验不错,但想要根本上提升到l3或更高的级别的自动驾驶,还有很长的一段路要走。

 如果这时候柚子科技支持了另一家汽车公司来搞自动驾驶,那特斯拉在这方面取得的先发优势就会瞬间被拉平,甚至反超。

 事实上,柚子科技也确实是这么做的,目前有一个专门的八人技术小组在和超越汽车对接,做l3.5级别的自动驾驶系统。

 因此,方豫认为,马斯克是不可能放任这种情况出现的。

 在柚子科技拒绝与迈国公司合作的情况下,他这次来海西,大概率考察投资环境是假,和自己谈橘子大模型接入特斯拉才是真。

 方豫还是很好奇马斯克能开出什么条件的。

 可没想到,马斯克居然开口就问目前柚子科技训练的最强大模型是不是已经达到了强人工智能。

 这不是废话吗,当然达到了。

 哪怕不提柚子在互联网中的那部分意识,只说橘子大模型,现在距离超级人工智能也不过就是堆参数堆数据的水磨工夫而已。

 只不过不能对外说罢了。

 “埃隆。这么称呼你可以吧?为什么这么问?”方豫不置可否的笑了笑。

 “方,我希望你能够给我一个答案。”马斯克目光诚恳,“这对我来说很重要。”

 你还真没架子啊。

 方豫对马斯克的印象一下子好了不少。

 “我只能说,目前发布的juzi2.5大模型,的确只是橘子大模型的一个子集。”

 方豫考虑了一下,还是给了马斯克一个模糊的信息。

 听到方豫的话,马斯克深吸一口气。

 自己还真踏马猜对了啊。

 你知道你做的事情有多危险吗?

 这和三年级小孩手搓核弹有什么差别?

 “刚刚沈小姐告诉我,你们所有员工在本岗位工作三个月后,都要在下一个月拿出百分之七十的工时做对齐工作,这是一个降低人工智能风险的好办法。”

 “但我们都知道,ai的进化是指数级的,我不认为只凭这种办法,能够避免ai所可能引发的智械危机,我认为我们应该拿出更负责任的行动,来限制这一风险。”

 马斯克的语速并不快,一边思考一边说话。

 “提出机器人三大定律的阿西莫夫想象不到人工智能是以神经网络的形式实现,现实不是,神经网络的原理就注定它们不会遵守所谓的机器人三大定律。”

 “而同样,神经网络下诞生的人工智能,也必然会有一天诞生自我意识。”

 “基于墨菲定律,ai诞生后,如果没有足够的监督和约束,发生智械危机的可能性是百分之百,无非只是时间问题而已。”

 “尤其现在,更是一个危险的状态。”

 “橘子大模型开源后,各个国家和大公司都进入了军备竞赛,英伟达的交货期已经排到了12月!你看一下英伟达这三个月的股价,已经是三个月前的3倍!”

 方豫深有同感的点点头。

 还好柚子科技提前买了6亿迈元的英伟达股票。

 三个义子的私募也全仓了英伟达。

 这一波自己和柚子科技加在一起足足赚了十五亿!

 不过皮衣黄赚的更多,一个月时间英伟达市值直接从不到五百五十亿干到了一千七百亿,皮衣黄身价从23亿骤增到了70亿!

 但他敢减持吗?

 我敢,嘿嘿。

 等到周芯国际7月底开始流片,就减持!

 不怕sec查内幕交易?

 呵呵,10b5-1交易计划了解一下。

 这个计划原本是针对公司高管的,允许公司高管提前设定交易计划,在未来的特定时间点进行股票交易,从而避免sec对内幕交易的指控。

 但作为持股股东,同样也可以适用于这个交易计划,只不过很少有股东会这么做罢了。

 马斯克看到方豫似乎没有什么反应,不由得皱了皱眉。

 “对于神经网络,你我都不是外行,应该很清楚,这玩意儿迟早有一天能诞生出自我意识,只不过是一个概率问题,做的人越多,模型越庞大,碰撞出自我意识的可能性就越大。”

 “这种程度的军备竞赛,就像是几十年前的核扩军,稍稍不小心,‘轰’。”

 马斯克做了一个爆炸的手势,“人类就灭亡了。”

 “毕竟没有任何一种智慧生命,愿意接受智慧远不如自己的另一种生命的统治。”

 “现在全世界除了古狗外,其余所有ai研究机构都已经把主要研究方向转向了柚子架构和你开源的橘子大模型。”

 “我认为,推开ai大门的柚子科技,有义务在ai安全领域承担更大的责任。”

 听到马斯克这么说,方豫颇为诧异的看了看一脸忧色的马斯克,再看看他的精神力和灵光的状态。

 这货认真的?

 去年倒是听说他在什么座谈里表达过对ai的担心,但你一个亿万富翁资本家,能担心成这样,也是有点奇葩。

 这是典型的灾难性思维引发的焦虑症。

 没去看看心理医生吗?

 不过倒是也容易理解,自己不担心,是因为可以完全掌控大模型的底层法则。

 别说橘子大模型还没成为超级人工智能,就算成了超级人工智能,它的规模越庞大,底层法则也会越完善,自己随时都能通过埃瑟朗之核控制和消除任何一个基于柚子框架的大模型。

 要是模型仍然是小规模,法则也会相应孱弱,自己的控制力反而没有那么强。

 但若自己不知道这一点的话,估计也会悲观得天天及时行乐了吧?

 咦?好像和现在也没差多少。

 方豫摸了摸下巴:“你是在指责柚子科技不应该开发出人工智能吗?”

 “事实上,我们的预算接近三分之一花在对齐上。而且,即使柚子科技没有推开这扇门,也会有其他人推开。”

 “就像你说的,墨菲定律,门就在那里,总会有人把它推开。”

 马斯克摇摇头:“不,方,我并不是秉承着对抗性思维来和你探讨这件事情,而是希望我们能够找到一条解决ai安全发展的路径,避免最坏结果的发生。”

 “那你的方案是什么?听起来,似乎你已经有了可行的方案?”方豫喝了口水,不由得有些好奇。

 坦白说,如果不是因为有法则在手和柚子的辅助,他也没有绝对的把握能够确保ai的安全性问题。

 这些日子对“神之模型”的研究倒是让他有了一些新想法,但这些想法究竟能不能成功,能不能够确保ai成为人类社会向前发展的助推器而不是大炸弹,还要看实际落地后的效果如何。

 现在说起来还是有些太早了。

 马斯克犹豫了一下:“我希望,作为目前在ai领域走的最快的企业,柚子科技能够站出来,和我一起呼吁全世界的开发者,暂停所有神经网络训练六个月到一年。”

 “利用这个时间,各个企业和国家重新审视目前大模型的安全隐患。并且成立一个由各大公司和国家组成的ai安全委员会,制定出ai发展的安全标准,并将全球ai都纳入安全委员会的管辖范围。”

 “只有这样,才能确保人类不会毁在ai手中。”

 方豫一听,差点没喷出来。

 老大,你做梦呢?

 不过想一想,马斯克接触大模型才仅仅两个月的时间,又不像自己一样,有柚子的辅助和“神之模型”能直接提供参考,也只能从限制ai发展的角度来考虑问题。