Changeset 14138


Ignore:
Timestamp:
06/09/12 21:54:08 (13 years ago)
Author:
tbretz
Message:
Changed the seperator for rows from \0 to \x7f. In this way we can just scale the data by 126 and do not need to add or subtract 1.
Location:
trunk/FACT++
Files:
2 edited

Legend:

Unmodified
Added
Removed
  • trunk/FACT++/src/smartfact.cc

    r14136 r14138  
    540540        out << stat.min << '\n';
    541541        out << stat.med << '\n';
    542         out << stat.max << '\0';
     542        out << stat.max << '\x7f';
    543543        for (auto it=vec.begin(); it!=vec.end(); it++)
    544544        {
     
    548548            for (uint64_t i=0; i<it->size(); i++)
    549549            {
    550                 float range = nearbyint(126*(double(it->at(i))-offset)/scale)+1; // [-2V; 2V]
    551                 if (range>127)
    552                     range=127;
    553                 if (range<1)
    554                     range=1;
     550                float range = nearbyint(126*(double(it->at(i))-offset)/scale); // [-2V; 2V]
     551                if (range>126)
     552                    range=126;
     553                if (range<0)
     554                    range=0;
    555555                val[i] = (uint8_t)range;
    556556            }
     
    558558            const char *ptr = reinterpret_cast<char*>(val.data());
    559559            out.write(ptr, val.size()*sizeof(uint8_t));
    560             out << '\0';
     560            out << '\x7f';
    561561        }
    562562
  • trunk/FACT++/www/smartfact/index.js

    r14137 r14138  
    11191119        return HLStoRGB(0);
    11201120
    1121     var hue = (col-1)/127;
     1121    var hue = col/126;
    11221122    return HLStoRGB(hue);
    11231123}
     
    13671367
    13681368        ctx.beginPath();
    1369         ctx.moveTo(ml, ch-mb-(data[j].charCodeAt(0)-1)/126*h);
     1369        ctx.moveTo(ml, ch-mb-data[j].charCodeAt(0)/126*h);
    13701370        for (var i=1; i<data[j].length; i++)
    1371             ctx.lineTo(ml+w/(data[j].length-1)*i, ch-mb-(data[j].charCodeAt(i)-1)/126*h);
     1371            ctx.lineTo(ml+w/(data[j].length-1)*i, ch-mb-data[j].charCodeAt(i)/126*h);
    13721372
    13731373        // --- finalize data ---
     
    15231523    ctx.clearRect(0, 0, canv.width, canv.height);
    15241524
    1525     var data = result.split('\0');
     1525    var data = result.split('\x7f');
    15261526    if (data.length<2)
    15271527        return;
Note: See TracChangeset for help on using the changeset viewer.