it-roy-ru.com

Как я могу быстро сложить все числа в файле?

У меня есть файл, который содержит несколько тысяч номеров, каждое в своей строке:

34
42
11
6
2
99
...

Я ищу написать скрипт, который будет печатать сумму всех чисел в файле. У меня есть решение, но оно не очень эффективно. (Запуск занимает несколько минут.) Я ищу более эффективное решение. Какие-либо предложения?

162
Mark Roberts

Для однострочника Perl это в основном то же самое, что и решение awk в ответ Аймана Хури :

 % Perl -nle '$sum += $_ } END { print $sum'

Если вам интересно, что делают однострочники Perl, вы можете удалить их:

 %  Perl -MO=Deparse -nle '$sum += $_ } END { print $sum'

В результате получается более подробная версия программы в форме, которую никто никогда не написал бы самостоятельно:

BEGIN { $/ = "\n"; $\ = "\n"; }
LINE: while (defined($_ = <ARGV>)) {
    chomp $_;
    $sum += $_;
}
sub END {
    print $sum;
}
-e syntax OK

Просто для хихиканья, я попробовал это с файлом, содержащим 1 000 000 номеров (в диапазоне 0 - 9 999). На моем Mac Pro он возвращается практически мгновенно. Это очень плохо, потому что я надеялся, что использование mmap будет очень быстрым, но это в то же время:

use 5.010;
use File::Map qw(map_file);

map_file my $map, $ARGV[0];

$sum += $1 while $map =~ m/(\d+)/g;

say $sum;
94
brian d foy

Вы можете использовать awk:

awk '{ sum += $1 } END { print sum }' file
321
Ayman Hourieh

Пока что ни одно из решений не использует paste. Вот один из них:

paste -sd+ filename | bc

В качестве примера вычислим Σn, где 1 <= n <= 100000:

$ seq 100000 | paste -sd+ | bc -l
5000050000

(Для любопытных seq n напечатал бы последовательность чисел от 1 до n с положительным числом n.)

87
devnull

Просто для удовольствия, давайте оценим это:

$ for ((i=0; i<1000000; i++)) ; do echo $RANDOM; done > random_numbers

$ time Perl -nle '$sum += $_ } END { print $sum' random_numbers
16379866392

real    0m0.226s
user    0m0.219s
sys     0m0.002s

$ time awk '{ sum += $1 } END { print sum }' random_numbers
16379866392

real    0m0.311s
user    0m0.304s
sys     0m0.005s

$ time { { tr "\n" + < random_numbers ; echo 0; } | bc; }
16379866392

real    0m0.445s
user    0m0.438s
sys     0m0.024s

$ time { s=0;while read l; do s=$((s+$l));done<random_numbers;echo $s; }
16379866392

real    0m9.309s
user    0m8.404s
sys     0m0.887s

$ time { s=0;while read l; do ((s+=l));done<random_numbers;echo $s; }
16379866392

real    0m7.191s
user    0m6.402s
sys     0m0.776s

$ time { sed ':a;N;s/\n/+/;ta' random_numbers|bc; }
^C

real    4m53.413s
user    4m52.584s
sys 0m0.052s

Я прервал Sed Run через 5 минут

76
glenn jackman

Это работает:

{ tr '\n' +; echo 0; } < file.txt | bc
21
Mark L. Smith

Другой вариант - использовать jq:

$ seq 10|jq -s add
55

-s (--Slurp) считывает входные строки в массив.

14
nisetama

Это прям Bash:

sum=0
while read -r line
do
    (( sum += line ))
done < file
echo $sum
8
Dennis Williamson

Вот еще один вкладыш

( echo 0 ; sed 's/$/ +/' foo ; echo p ) | dc

Это предполагает, что числа являются целыми числами. Если вам нужны десятичные дроби, попробуйте

( echo 0 2k ; sed 's/$/ +/' foo ; echo p ) | dc

Отрегулируйте 2 до необходимого количества десятичных знаков.

7
lhf

Я предпочитаю использовать GNU datamash для таких задач, потому что он более краткий и разборчивый, чем Perl или awk. Например

datamash sum 1 < myfile

где 1 обозначает первый столбец данных.

4
hertzsprung

Просто для удовольствия, давайте сделаем это с PDL , математическим движком Perl!

Perl -MPDL -E 'say rcols(shift)->sum' datafile

rcols считывает столбцы в матрицу (в данном случае 1D), а sum (неожиданность) суммирует все элементы матрицы.

3
Joel Berger

Я предпочитаю использовать R для этого:

$ R -e 'sum(scan("filename"))'
3
fedorn

Вот решение с использованием Python с выражением генератора. Протестировано с миллионами номеров на моем старом ноутбуке.

time python -c "import sys; print sum((float(l) for l in sys.stdin))" < file

real    0m0.619s
user    0m0.512s
sys     0m0.028s
3
dwurf
cat nums | Perl -ne '$sum += $_ } { print $sum'

(так же, как ответ Брайана Д. Фоя, без «КОНЦА»)

3
edibleEnergy

Более кратко:

# Ruby
ruby -e 'puts open("random_numbers").map(&:to_i).reduce(:+)'

# Python
python -c 'print(sum(int(l) for l in open("random_numbers")))'
2
Vidul
sed ':a;N;s/\n/+/;ta' file|bc
2
ghostdog74
$ Perl -MList::Util=sum -le 'print sum <>' nums.txt
2
Zaid

Perl 6

say sum lines
~$ Perl6 -e '.say for 0..1000000' > test.in

~$ Perl6 -e 'say sum lines' < test.in
500000500000
2
Brad Gilbert

Я не проверял это, но это должно работать:

cat f | tr "\n" "+" | sed 's/+$/\n/' | bc

Возможно, вам придется добавить «\ n» в строку перед bc (например, через echo), если bc не обрабатывает EOF и EOL ...

1
DVK

Еще один для развлечения

sum=0;for i in $(cat file);do sum=$((sum+$i));done;echo $sum

или только другой удар

s=0;while read l; do s=$((s+$l));done<file;echo $s

Но решение awk, вероятно, лучше, поскольку оно наиболее компактно.

1
nickjb

С рубином:

Ruby -e "File.read('file.txt').split.inject(0){|mem, obj| mem += obj.to_f}"
1
juanpastas

С всегда побеждает по скорости:

#include <stdio.h>
#include <stdlib.h>

int main(int argc, char **argv) {
    ssize_t read;
    char *line = NULL;
    size_t len = 0;
    double sum = 0.0;

    while (read = getline(&line, &len, stdin) != -1) {
        sum += atof(line);
    }

    printf("%f", sum);
    return 0;
}

Время для чисел 1M (та же машина/ввод, что и для моего ответа на Python):

$ gcc sum.c -o sum && time ./sum < numbers 
5003371677.000000
real    0m0.188s
user    0m0.180s
sys     0m0.000s
0
dwurf

Вы можете сделать это с помощью Alacon - утилиты командной строки для Alasql database.

Он работает с Node.js, поэтому вам нужно установить Node.js , а затем Alasql package:

Для расчета суммы из файла TXT вы можете использовать следующую команду:

> node alacon "SELECT VALUE SUM([0]) FROM TXT('mydata.txt')"
0
agershun

Вот еще один:

open(FIL, "a.txt");

my $sum = 0;
foreach( <FIL> ) {chomp; $sum += $_;}

close(FIL);

print "Sum = $sum\n";
0
ruben2020

Я не знаю, сможете ли вы стать намного лучше, чем это, учитывая, что вам нужно прочитать весь файл.

$sum = 0;
while(<>){
   $sum += $_;
}
print $sum;
0
Stefan Kendall

Не проще заменить все новые строки на +, добавить 0 и отправить его интерпретатору Ruby?

(sed -e "s/$/+/" file; echo 0)|irb

Если у вас нет irb, вы можете отправить его на bc, но вы должны удалить все новые строки, кроме последнего (из echo). Для этого лучше использовать tr, если только у вас нет доктора наук в sed.

(sed -e "s/$/+/" file|tr -d "\n"; echo 0)|bc
0
Daniel Porumbel