НПО Тепловизор. Теплосчетчики и расходомеры К вершинам эволюции теплосчетчика
Продукция Поддержка Форум Контакты
     
Пользователь    Пароль  
Регистрация | Пароль?  
Главное меню
НовостиПродукцияФайлы/ДокументыСтатьиФорумОпросыФотогалереяО компанииРекламодателям
Потребители о нас
"ГУП ДЕЗ района «Текстильщики» рекомендует привлечь ЗАО «Сервисная Компания «Тепловизор» для выполнения работ по сервисному обслуживанию узлов учета тепловой энергии на других объектах г. Москвы."

Н.Н. Елисеева, Главный инженер ГУП ДЕЗ «Текстильщики»
Наши партнёры
Свернуть/Развернуть ТЕПЛОСЧЕТЧИКИ • ВОДОСЧЕТЧИКИ • РАСХОДОМЕРЫ • ВИС.Т Свернуть/Развернуть
/  Список форумов
   /  Оборудование производства НПО "Тепловизор"
/  Архивы ВИС.Т Modbus
«  Предыдущая тема    Следующая тема  »
Тема:  Архивы ВИС.Т Modbus    

Alexey02 Архивы ВИС.Т Modbus

Новенький


Здравствуйте!

Решили прочитать архивы с ВИС.Т Modbus, столкнулись с проблемой - расчеты нарастающих значений массовых расходов(заголовок архива) не совпадают со значениями массовых расходов в архивных записях(часовые записи).

За время измерения были прочитаны значения:
время G0(заголовок архива) dG0(расход за 1 час)
12:00 175024,906250 7,221
11:00 175017,671875 7,238
10:00 175010,437500 7,293

175024,906250 - 7,221 = 175017,685 != 175017,671875

Мы считаем во float, возможна наша проблема кроется здесь - проверяем в данный момент.

Или такая формула расчета неверна? Если так, то подскажите - как производится данный расчет.
» 11.3.12 20:53 Профайл

CH Re: Архивы ВИС.Т Modbus

Администратор


Да, разбирайтесь с float.
Значения нарастающего итога 175024,906250 / 175017,671875 / 175010,437500 уже неверны, поскольку в них должно быть столько же значащих разрядов после запятой, как в значениях почасовых записей (3). Разряды с 4 по шестой явно указывают на ошибку преобразования в число с плавающей запятой.
Опять же, если float, который вы используете, имеет разрядность 32 бита (точность около 7 разрядов), он не подходит для работы с такими большими числами.

--
Виктор В. Жданов
NegaSoft Co. FAE
НПО "Тепловизор", Главный инженер-программист
» 11.3.12 22:39 Профайл Посетить веб-сайт
Распечатать топик 
«  Предыдущая тема    Следующая тема  »


Поиск

Ключевые слова:    
[ Расширенный поиск ]

Права

Вы не можете начинать темы.
Вы не можете редактировать свои сообщения.
Вы не можете создавать опросы.
Вы не можете вкладывать файлы в сообщения.
Вы не можете отвечать на сообщения.
Вы не можете удалять свои сообщения.
Вы не можете голосовать.