波音737带来的启示：人工智能是不是要向习惯低头？

zmztx

*****    本帖不涉及政治     ******

波音737max8半年时间里摔了两架，失事原因尚无定论。
现在有两点对波音很不利。一是在两个现场发现的部件能证明尾翼抬起机头向下栽，而且驾驶员也说机头拉不起来；还有就是装了两套软件，一个是防失速系统，一个是反防失速系统。防，而后在反防，这一点确实不好理解。
可话说回来，波音公司在出事后仍然信心满满。再就是波音737MAX飞机在各国在使用的数量很多，为什么大部分飞机没出事。
其实机头拉不起来和两个软件系统是一回事，都是为了飞行姿态。有人分析，软件对姿态控制（当然还有硬件，如传感器）的优先权高于驾驶员，换句话说就是姿态控制交给软件系统了，没驾驶员什么事了。那么照这个逻辑，系统不可靠，凡是装这种控制系统的都该直接掉下来了。可实际上只掉下来两架。
据说，波音研制或者参与研制的战斗机、轰炸机中，也有装这种软件系统的，是经过考验的。当然是在作战飞机上的考验
于是，就有这样的认识
第一，技术不能太超前，以至于人们难以掌握
第二，采用先进技术，使用者必须经过充分的训练
当然，失事原因还没确认。但是上述两点分析确实值得深思
我想，假如真是机头无法控制，那么关掉那套控制系统不就完了吗？也许是连怎么关都是很复杂的操作，以至于事到临头，关都关不上。

zmztx

技术不能太先进，否则难以掌握。
在工厂里，这种事情常见。比如质量控制，你要搞一套复杂有麻烦的方法，一二三四好多条，估计没什么实际效果。
但你要说，往转轴上贴块胶布，轴转没转，转了多少，一目了然！

一些功能复杂的软件也是这样
比如设计软件，除非你按一个键，机器就设计完成了。否则，如果需要人机配合，各个功能划分、自动化程度就需要好好的斟酌。
还有就是导航，不同的功能模块使用当中，需要给出指引，退出怎么操作，回退怎么操作，继续有几个选择，等等。最好不要和现有的习惯太拧巴。各位可以注意，3D-CAD软件，和以往手工绘图习惯并不太拧巴。
就像737-8，启用自动系统时，一旦给出信号，机头就会下压（这个过程是10秒）。这时驾驶员要干预，好像需要关闭系统再操作。而两次失事飞机的驾驶员，好像直接和系统较劲，反复十几次，结果还是控制不住。也许战斗机驾驶员训练足够，也过关，相对年轻反应快。民航驾驶员也许有些达不到这种水平。还有就是民航飞机一般都装自动驾驶系统（巡航用，有的汽车也有）。我想是不是这种失速控制系统，在使用习惯上和以前的自动驾驶系统有很大不同，如果套用老经验，也许就送命了。

王红强whq

顶

andriycike

系统软件问题导致的事故极其少见，基本都是飞行员对于软件不够熟悉造成的，智能软件在工作的时候，人工操作是无效的，必须先关闭智能控制再进行人工操作，很多事故都是飞行员没有关闭智能控制就进行人工操作，逐渐丧失控制能力，心态越来越慌，最终导致飞机失控，表面原因是飞行员不熟悉软件，或者过度疲劳紧张，归根到底还是我们正处在人工向智能过渡的阶段，一方面智能技术还不够成熟就已经大范围推广和更新，另一方面人类对于智能不信任，导致一线的操作者也处于一种纠结的状态中，我相信智能最终会完全取代人工，但这个过程中必然会有尝试与损失

zmztx

andriycike 发表于 2019-3-17 10:46
系统软件问题导致的事故极其少见，基本都是飞行员对于软件不够熟悉造成的，智能软件在工作的时候，人工操作 ...

是的
不过，汽车巡航系统启动后，如果司机动方向盘，系统自动切换到人工驾驶。也就是说权限由自动系统马上就交给了人。我的意思是：
如果人习惯了某种操作，飞机驾驶员可能下意识的觉得，只要动方向，系统也马上就把权限交给人。可惜系统没交权限，人一下子就晕了。然后就较劲。
我觉得在权限切换上有待改进。当然，如果超音速战斗机在两三个马赫数飞行时，姿态控制上，就没打算交给人控制。那是另外一回事。
不管最后结论如何，这毕竟是个问题。

人的养成的习惯，有时真的会坏事
比如机床，在走刀前可能会要看一下轨迹，防止撞床子。操作就是摇一下手柄。可到了数控机床，就需要修改程序。试完后再用上刀程序走。这个地方出问题的不少，直接把床子报废的也有。这时是赖数控系统还是赖人呢？
说的再直接一点：设计者包括自动系统的设计者，在这种情况下，是不是要让步？迎合习惯？向习惯低头？

未来第一站

“机器人三大原则”早就有了。
第一条：机器人不得危害人类。此外，不可因为疏忽危险的存在而使人类受害。

第二条：机器人必须服从人类的命令，但命令违反第一条内容时，则不在此限。

第三条：在不违反第一条和第二条的情况下，机器人必须保护自己。

远祥

其实这些确实是波音公司的问题，否则不可能近三个月连续出现两台飞机出现事故！

我叫刘有福

737max系列是根据737 改装的
机身加大加长 发动机大的情况下 前舱随时减小  导致机尾重量加大  而其他的并没有随之改进
机尾重量大  机尾下坠 为了防止机尾擦地     所以加了一套智能软件来强制机头向下  
说白了  就是想省钱省时省力  想用智能软件来弥补设计上的缺陷

我叫刘有福

忘了说楼主说的人工智能了 记得之前看过一篇文章说
也许真正的人工智能时代永远不会到来

2782104275

一家公司的问题不值得讨论这么多。否则大众召回那么多次，是不是早可以定论德国制造业不行了？实际就是波音图省事，而且和一线也就是飞行员沟通测试不足导致的。人工智能还是先考虑怎么代替人工吧，智能的步子还是别迈太大，迈大了全是扯淡