matlab - 错误 -> 冒号操作数必须在数据类型的范围内。没意义

Question

在图像索引范围下方的代码中，只接受处理 int16 但是我找不到对这种情况的正确解释。在相同的代码中，您会注意到如果我将数据类型更改为 int8 for same value 错误将出现。

K>> t2 = int8(t)

t2 =

  int8

   45

K>> I2 = flt_rot(t:end,:);
K>> I2 = flt_rot(t2:end,:);
Error using  : 
Colon operands must be in the range of the data type.

为什么会这样？

Answer 1

要理解这个问题，先了解一下背景:

对于不同类型的数值，MATLAB 具有相当独特的行为。最初，MATLAB 仅使用 double 浮点值 (double)。在某些时候，可以存储其他类型的数组，但不可能将它们用于很多地方。直到 MATALB 7.0 左右，非 double 算术才成为可能(我在引入时有点模糊)。如果您愿意的话，这些操作仍然有点“笨拙”。

首先，MATLAB 不允许使用混合类型进行操作:

>> int8(4)+int16(6)
Error using  + 
Integers can only be combined with integers of the same class, or scalar doubles.

请注意错误消息:“标量加倍”。混合类型的一个异常(exception)是，如果其中一个操作数是 double 标量，则任何操作都是可能的。

另一件需要注意的事情是，任何具有非 double 类型和 double 类型的操作都会产生非 double 类型的值:

>> int8(4)+6
ans =
  int8
   10

颜色运算符(:)也不异常(exception):

>> int8(4):6
ans =
  1×3 int8 row vector
   4   5   6

最后，要理解这个问题，最后要知道的是 end 是一个返回双标量值的函数(是的，它确实是一个函数，尽管是一个非常特殊的函数，参见 help end).

如果您有一个 200x300 的数组 flt_rot，第一个索引中的 end 返回 200。也就是说，flt_rot(t2:end,:) 与 flt_rot(t2:200,:) 相同。由于 t2 是 int8 类型:

>> t2=int8(45);
>> t2:200
Error using  : 
Colon operands must be in the range of the data type.

您的问题的解决方案是不要将 double 以外类型的数值用于任何情况，除非是在内存使用量很重要的大型数据集中。对于索引，使用整数不会比使用 double 有任何加速，但会给您带来很多其他问题。默认值始终为 double 值是有原因的。

这会起作用:

I2 = flt_rot(double(t2):end,:);