Changeset 18939 for trunk/DataCheck


Ignore:
Timestamp:
01/28/18 20:12:20 (7 years ago)
Author:
Daniela Dorner
Message:
updated correction formula and reference values for periods
File:
1 edited

Legend:

Unmodified
Added
Removed
  • trunk/DataCheck/Tools/fill_r750.sh

    r18937 r18939  
    1212         0.0 # 5
    1313         0.0 # 6
    14        267.1 # 7
    15        267.1 # 8
    16        271.8 # 9
    17        295.0 #10
    18        257.3 #11
    19        248.6 #12
    20        237.1 #13
    21        244.0 #14
    22        241.0 #15
    23        263.8 #16
    24        245.4 #17
    25        254.3 #18
    26        263.3 #19
    27        278.1 #20
    28        267.1 #21
    29        234.9 #22
    30        259.9 #23
    31        268.8 #24
    32        281.6 #25
    33        272.1 #26
    34        269.5 #27
    35        266.6 #28
     14       260.7 # 7
     15       261.2 # 8
     16       267.9 # 9
     17       287.0 #10
     18       251.3 #11
     19       251.3 #12
     20       237.7 #13
     21       246.6 #14
     22       243.4 #15
     23       267.9 #16
     24       249.4 #17
     25       254.8 #18
     26       261.5 #19
     27       274.2 #20
     28       264.5 #21
     29       228.9 #22
     30       255.1 #23
     31       269.0 #24
     32       281.9 #25
     33       271.4 #26
     34       270.5 #27
     35       267.9 #28
    3636         0.0 #29
    37        246.5 #30
    38        246.5 #31
    39        286.9 #32
    40        289.4 #33
    41        278.7 #34
    42        266.3 #35
    43        258.4 #36
    44        273.8 #37
    45        276.3 #38
    46        275.4 #39
    47        279.9 #40
    48        286.2 #41
    49        289.1 #42
    50        276.4 #43
    51        279.3 #44
    52        271.8 #45
    53        252.9 #46b
    54        254.3 #47
    55        252.0 #48
    56        255.4 #49
    57        265.3 #50
    58        263.8 #51
    59        261.3 #52
    60        253.9 #53
    61        242.5 #54
    62        242.6 #55
    63        241.5 #56
    64        248.7 #57
    65        248.7 #58
    66        243.4 #59
    67        249.3 #60b
    68        248.4 #61
    69        261.3 #62
    70        257.6 #63
    71        244.3 #64
     37       246.9 #30
     38       246.9 #31
     39       282.8 #32
     40       282.7 #33
     41       272.0 #34
     42       261.1 #35
     43       256.0 #36
     44       273.6 #37
     45       273.2 #38
     46       280.8 #39
     47       282.9 #40
     48       286.7 #41
     49       290.7 #42
     50       275.5 #43
     51       276.1 #44
     52       267.2 #45
     53       246.9 #46b
     54       248.1 #47
     55       246.2 #48
     56       253.3 #49
     57       265.1 #50
     58       266.2 #51
     59       264.7 #52
     60       257.6 #53
     61       244.9 #54
     62       244.7 #55
     63       239.6 #56
     64       244.6 #57
     65       242.6 #58
     66       237.1 #59
     67       247.3 #60b
     68       245.5 #61
     69       260.3 #62
     70       258.7 #63
     71       248.7 #64
    7272       248.2 #65
    73        241.6 #66
    74        234.8 #67
    75        234.1 #68
    76        291.2 #69
    77        248.8 #70
    78        233.1 #71
    79        242.0 #72
    80        226.2 #73
    81        215.1 #74
    82        244.6 #75
    83        246.7 #76
    84        249.9 #77
     73       245.9 #66
     74       235.9 #67
     75       233.2 #68
     76       287.2 #69
     77       243.1 #70
     78       231.4 #71
     79       237.8 #72
     80       222.3 #73
     81       214.0 #74
     82       244.0 #75
     83       249.6 #76
     84       253.4 #77
    8585         0.0 #78
    8686       )
     
    101101# periods 42 and 60 are split:
    102102# 60a
    103 query="UPDATE RunInfo SET fR750Ref=243.4 WHERE fPeriod=60 AND fNight<20170901"
     103query="UPDATE RunInfo SET fR750Ref=237.1 WHERE fPeriod=60 AND fNight<20170901"
    104104mysql --defaults-file=$sqlpw -u operator -h 10.0.100.21 $dbname -s -e "$query"
    105105# 46a
    106 query="UPDATE RunInfo SET fR750Ref=275 WHERE fPeriod=46 AND fNight<20150716"
     106query="UPDATE RunInfo SET fR750Ref=271 WHERE fPeriod=46 AND fNight<20150716"
    107107mysql --defaults-file=$sqlpw -u operator -h 10.0.100.21 $dbname -s -e "$query"
    108108
     109zd="cos(fZenithDistanceMean/180*Pi())"
     110min="TIME_TO_SEC(TIMEDIFF(fRunStop,fRunStart))*fEffectiveOn/60"
     111cor="pow("$zd", 1.091)*exp((1-1/"$zd")*0.593)*exp(1.829*(1-"$zd"))"
    109112
    110113# fill corrected R750
    111114query="UPDATE RunInfo SET "
    112 query=$query" fR750Cor=round(fNumThreshold750/(TIME_TO_SEC(TIMEDIFF(fRunStop,fRunStart))*fEffectiveOn/60)/pow(1/cos(fZenithDistanceMean/180*Pi())*exp(1-1/cos(fZenithDistanceMean/180*Pi())), 1.22),2) "
    113 query=$query" WHERE fRunTypeKey=1 AND NOT ((TIME_TO_SEC(TIMEDIFF(fRunStop,fRunStart))*fEffectiveOn/60)/pow(1/cos(fZenithDistanceMean/180*Pi())*exp(1-1/cos(fZenithDistanceMean/180*Pi())), 1.22))=0"
     115query=$query" fR750Cor=round(fNumThreshold750/("$min")/("$cor"),2) "
     116query=$query" WHERE fRunTypeKey=1 AND NOT (("$min")/("$cor"))=0"
    114117echo $query
    115118mysql --defaults-file=$sqlpw -u operator -h 10.0.100.21 $dbname -s -e "$query"
Note: See TracChangeset for help on using the changeset viewer.