船长很为难！疑似收到ChatGPT提供的航行指导，是否要遵照执行？
前段时间,ChatGPT的大火迅速蔓延至各大行业,其中也包括航运业。
近日,全球大火的OpenAI发布了其新版本的ChatGPT4,体验过的人纷纷表示新版本更加智能了。一位船长就表示,有航运公司在使用ChatGPT来进行航行指导。
航行管理引入ChatGPT可行吗?
靠谱么?
船长寻求航行指导
却收到疑似来自AI的答案
近日,有国外航运业媒体表示,一位船长称,有船东正在利用人工智能(AI)ChatGPT对船舶的航行计划提出修改建议。
这位船长表示,在最近的一次航行计划中,他的船遇到了几个关于船舶路线和货物安全的问题。尽管他们已经就航行路线、安全措施等都进行了评估,船员们也在优化效率的同时减少了潜在危险,但船上的高级船员对于是否按照AI智能的提示执行表示了担忧。
因此,船长将情况通过邮件反馈了船东,以寻求指导。
图源:国外网站
通常在这种情况下,船东会将问题递交给海事主管部门和相关专家(如有经验的船长等),共同审查并决策,最终向船长提供有关降低风险的指导。
船长很快就收到了船东发回的信息。
可以看得出来,信息的第一段和最后一段包含了寒暄用语,应该是由人类写的,但关于中间部分如何减轻风险的建议,船长表示,"虽然他很难证明这条消息是由AI写的,但它的语言风格与AI生成的信息相似。”
更重要的是:这条信息的建议中包括了让船舶改变航线。船长无法确定这项建议是否真的是经过船东和相关专家商讨后所得出的结论。
这让船长为难,究竟是否要遵照实施?因为一旦实施,将会对船舶的航行造成极大影响。
网络安全专家警告:ChatGPT或增加钓鱼诈骗的可能性
除了航行建议,网络安全专家也对AI进入航运业表示了担忧。
英国网络安全公司Darktrace周三警告说,智能机器人ChatGPT可能增加了钓鱼诈骗的复杂性。
该公司在一份结果声明中说:"公司不认为ChatGPT已经大大降低了威胁者的进入门槛,但它确实认为,它可能助长了钓鱼邮件的复杂性,使黑客能够创造出更有针对性的、个性化的病毒,并最终成功的攻击。"
去年有研究表明,目前海运业仍缺乏应对网络攻击的意识和准备,行业平均每年需要支付300万美元的网络攻击赎金。
Darktrace表示,网络犯罪分子可能正在将注意力转移到利用用户的信任制作更复杂的骗局上。这意味着ChatGPT将会使其骗局更加隐蔽,且更具有迷惑性。这对于网络安全方面仍然相对落后的海运业而言,是一个挑战。
事后,有人向 ChatGPT 提了这样一个问题——
ChatGPT 可以就船舶航行计划等安全关键操作提供建议吗?
ChatGPT的回答是这样的:
ChatGPT
作为一个人工智能语言模型,ChatGPT并没有被设计或认证为提供安全关键操作的建议,如船舶航行计划。虽然ChatGPT 可以根据它收到的输入生成文本,但它对复杂、真实世界的情况和安全考虑的理解是有限的。
安全关键操作,如船舶航行计划,需要有经验的专业人士的专业知识和判断力,他们可以全面评估风险和突发事件。依靠人工智能产生的建议进行此类操作,可能会导致潜在的危险情况和意外的后果。至关重要的是,人工智能系统提出的任何意见或建议,在实施之前,必须由合格的人类专家进行仔细评估和验证,特别是在安全关键领域。
目前来看,使用AI与否,都将对航运业造成不同影响。完全阻止AI的使用可能会使船长通过自己的经验和思考,发现新的解决方案来保护船舶和船员的安全。而使用ChatGPT也可能创造额外的工作机会,因为AI的建议需要由有经验的船长和轮机长共同审查和编辑。
不管人工智能的使用能否得到证实,在这次事件中,IMO、USCG 和 INTERTANKO 等国际机构组织认为认真讨论使用人工智能对航行进行指导这个问题是至关重要的,因为无论是从接受人工智能的建议还是咨询它的角度,都存在发生重大船舶事故和生命损失的风险。
