比较INT浮动蟒蛇问题

我有这样的代码：比较INT浮动蟒蛇问题

def fit(self,p1,p2,w): 
    p=p1  
    m=self.bit(p,w) 
    if p1.y!=p2.y: 
     if m&0x30: 
      p.y=w.y1 if m&0x10 else w.y2-1 
      try: 
       p.x=int((p.y-p2.y)*(p1.x-p2.x)/(p1.y-p2.y)+p2.x) 
      except Exception,e: 
       print e 
       print p1.y!=p2.y   
       print p1.y,p2.y

输出是：

cannot convert float NaN to integer 
False 
199 199.0

我不知道为什么p1.y!=p2.y评估为true，然后在例外评估为假

我正在运行python 2.6.6

来源

2011-04-11 titus

因为您在此更改'p1.y'（通过'p.y'）？ 'p.y = w.y1 if m＆0x10 else w.y2-1' – Amber 2011-04-11 04:06:55

thanks琥珀，完全错过了： – titus 2011-04-11 04:14:42

您正在将0/0！

# (p.y-p2.y)*(p1.x-p2.x) 
x = p.y - p2.y 
x = 199 - 199.0 = 0 
x1 = p1.x-p2.x 
0 * x1 = 0* p1.x - 0* p2.x

这意味着

(p.y-p2.y)*(p1.x-p2.x) = 0

现在我们通过这个设计出0：

#(p1.y-p2.y) 
p1.y-p2.y 
x = p.y - p2.y 
x = 199 - 199.0 = 0

因此，在这种情况下，你正在尝试做的0/0

然后，在结束您尝试添加p2.x整个事情，我相信这就是为什么你会得到错误cannot convert float NaN to integer而不是ZeroDivisionError: integer division or modulo by zero

它真的很容易解决。更改if p1.y!=p2.y:第4行至If p1.y-p2.y != 0:

来源

2011-04-11 08:01:44 KilledKenny

比较INT浮动蟒蛇问题

回答

相关问题