您好,欢迎访问三七文档
当前位置:首页 > 商业/管理/HR > 资本运营 > 关于两数相乘大于32767溢出的问题
两数相乘,无论返回值用Long或Double,只要两数相乘大于32767就会溢出。解决方法:将两数其中任何一数先转为Long或Double。举例:错误的方法:longc;shorta,b;a=0xFF;b=0xFF;c=a*b;结果溢出,因为a*b32767正确的方法:longc;shorta,b;a=0xFF;b=0xFF;c=(long)a*b;
三七文档所有资源均是用户自行上传分享,仅供网友学习交流,未经上传用户书面授权,请勿作他用。
本文标题:关于两数相乘大于32767溢出的问题
链接地址:https://www.777doc.com/doc-2666068 .html